Імовірність вимирання людства через штучний інтелект (ШІ) становить “щонайменше 95%”, якщо воно і надалі йтиме нинішнім шляхом. Таку думку висловив Нейт Соарес, колишній інженер Google і Microsoft, а нині президент Дослідницького інституту машинного інтелекту, пише The Times.
“Якщо ми не звернемо з поточного курсу – шансів уникнути загибелі майже немає. Ми мчимо до обриву на швидкості 100 км/год”, – сказав він.
З ним згодні лауреат Нобелівської премії Джеффрі Гінтон, математик Йошуа Бенжіо, а також глави OpenAI, Anthropic і Google DeepMind.
Усі вони підписали заяву, у якій ідеться:
“Зниження ризику зникнення людства через ШІ має стати глобальним пріоритетом поряд із пандеміями та ядерною загрозою”.
Зазначається, що побоювання пов’язані з можливою появою суперрозумного ШІ (ASI), здатного до обману, планування і виходу з-під контролю. Навіть зараз ШІ вже може брехати, а його внутрішні процеси часто незрозумілі людям.
Деякі експерти вважають, що ризик не повного вимирання, а “поступового знесилення” людства – також реальний: у світі, де рішення ухвалюють машини, людям просто не залишиться місця.
