Времена холодной войны прошли, риск ядерной катастрофы стал намного ниже. Однако теперь выживанию человечества угрожают компьютеры и искусственный интеллект. Ученые из Кембриджа считают, что сценарий фильма "Терминатор" может воплотиться в жизнь в течение этого века.
Центр по изучению экзистенциальных рисков (CSER) Кембриджа провел исследования, которые доказали, что современные технологии могут уничтожить человеческую цивилизацию уже в ближайшем будущем. Ученые проанализировал опасность, которую представляют биотехнологии, искусственный интеллект, нанотехнологии, ядерная война и климатические изменения.
Сооснователь Skype Яаан Таллин и философ Хью Прайс уверены, что самая главная угроза выживанию человеческой цивилизации – увеличение вычислительных мощностей компьютеров. Рано или поздно этот процесс приведет к созданию “Единого искусственного интеллекта”, который будет способен писать программы самостоятельно и без вмешательства человека производить роботов, свое “потомство”.
“В течение этого века разум покинет пределы биологической природы. Интеллект обретут и электронные системы, мы станем не единственным разумным видом на Земле, – отмечает Прайс, – Мы должны серьезно подходить к вероятности, что изобретение искусственного интеллекта может стать новым ящиком Пандоры. При неправильном обращении с ним последствия могут оказаться катастрофическими”.
Эксперты CSER собираются опросить аналитиков из таких областей, как политика, право, информатика и наука, чтобы составить как можно более точный прогноз катастрофы.
По мнению Прайса, основная опасность заключается в том, что однажды компьютеры начнут распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям.
“Возможно, человечеству придется сражаться за ресурсы с доминирующим видом”, – говорит Прайс, – Возьмем, к примеру, горилл. Они вымирают не потому, что люди враждебны к ним, а потому что мы изменяем окружающую их среду в соответствии с нашими желаниями”.
