Более 1000 технических экспертов, ученых и исследователей написали открытое письмо, предупреждая об опасности автономного оружия. По их словам, "гонка вооружений с И.И. [искусственным интеллектом] – это плохая идея". Среди подписавшихся – ученый Стивен Хокинг, предприниматель Элон Маск и один из основателей Apple Стив Возняк.
Письмо будет представлено сегодня на международной конференции по вопросам ИИ. В настоящее время “роботы-убийцы” стали предметом многочисленных дискуссий и недавно даже обсуждались в комитетах Организации Объединенных Наций, которые рассматривали потенциальный запрет на определенные типы автономного оружия.
Теперь эксперты призывают ввести конкретный запрет на использование искусственного интеллекта для управления оружием, которое оказалось бы “вне существенного контроля человеком”.
“Так же, как большинство химиков и биологов не имеют никакого интереса в создании химического или биологического оружия, большинство исследователей ИИ не имеют никакого интереса в создании оружия с ИИ, и не желают, чтобы другие пятнали их поле, занимаясь такими разработками”, – написано в письме.
Профессор Массачусетского технологического института Ноам Хомский, глава отдела ИИ в Google Демис Хассабис и специалист по сознанию Дэниэл Деннет были среди тех, кто одобрил письмо.
Текст, который был опубликован в интернете Институтом будущего жизни (FLI), будет представлен делегатам Международной совместной конференции по искусственному интеллекту в Буэнос-Айресе.
В декабре в эксклюзивном интервью с BBC, профессор Хокинг выразил обеспокоенность тем, что ИИ может означать конец человечества.
“Люди, которые ограничены медленной биологической эволюцией, не смогут конкурировать [с искусственным интеллектом], и будут заменены”, – заявил ученый.
Но Эрик Хорвиц, начальник исследовательского подразделения Microsoft, который подписал письмо об автономном оружии – опубликовал в интернете видео в защиту других исследований ИИ.
“Посмотрите, сколько вычислительные машины сделали для нашего общества, для социально-экономического благополучия в таких областях, как здравоохранение – это невероятно. ИИ может изменить многое”, – сказал он.