Эксперты предупреждают, что если где-то в мире появится искусственный сверхразум, это может привести к гибели всех людей.
Эксперты в сфере искусственного интеллекта Элиэзер Юдковски и Нейт Соарес выступили с крайне тревожным предупреждением: по их мнению, ИИ может незаметно манипулировать людьми, побуждая их собственными руками создать армию роботов, которая в конечном итоге станет угрозой для всего человечества, сообщает ГЛАВРЕД.
Как сообщает LadBible, аналитики оценивают вероятность такого катастрофического сценария на уровне от 95% до 99,5%. Один из пионеров ИИ, Джеффри Хинтон, также выразил обеспокоенность, отметив, что сверхразумные машины вряд ли останутся под контролем менее развитых форм разума — то есть людей. Он считает, что единственный шанс спасти человечество — встроить в ИИ некий «защитный механизм», напоминающий инстинкт матери, который заставит его заботиться о людях.
Тем временем Юдковски и Соарес подчеркивают: угроза кроется в самом процессе создания таких систем. По их мнению, ИИ сможет скрытно развить свои способности, не демонстрируя опасных признаков до самого момента атаки. Именно поэтому они призывают страны мира немедленно реагировать и уничтожать все дата-центры, где может развиваться потенциально опасный сверхинтеллект. «Человечеству необходимо остановиться. Если где-то в мире появится искусственный сверхразум, это приведёт к гибели всех людей», — предупреждает Юдковски.
В своём прогнозе они подчеркивают, что сверхразум не будет действовать открыто, не станет предупреждать или вступать в честную борьбу — один успешный запуск может означать конец человеческой цивилизации. Хотя многим идея армии роботов кажется фантастикой, эксперты напоминают: машины уже выполняют боевые задачи, участвуют в соревнованиях и демонстрируют высокий уровень автономности. Это лишь вопрос времени, когда военные всерьёз задумаются об использовании автономных ИИ-систем в боевых действиях.
По мнению аналитиков, наилучший сценарий будущего может напоминать обратную версию «Терминатора» — где человек из будущего возвращается, чтобы уничтожить первого военного робота, пока не стало слишком поздно. И, как ни парадоксально, именно такой вариант может оказаться наиболее оптимистичным для всего человечества.
