Инстинкты операторов побуждают их вмешиваться в работу машин, даже когда робот может лучше справиться с поставленной задачей.
Эксперты Королевского института объединенных служб Великобритании и компании QinetiQ, специализирующейся на безопасности и обороне, рассказали о роли искусственного интеллекта в современных войнах и конфликтах будущего, передает издание The National News. Об этом информируют Экономические Новости со ссылкой на ФОКУС.
Специалисты считают, что ИИ изменил способ ведения боевых действий в 21 веке, и военные очень нуждаются в поддержке “умных” технологий. Солдаты и командиры должны уметь работать с “умной” техникой, чтобы быстрее реагировать на угрозы, но пока слишком мало ей доверяют. Для этого им нужно избавиться от некоторых привычек, ведь инстинкты операторов побуждают их вмешиваться в работу машин, даже когда робот может лучше справиться с поставленной задачей.
“За счет большего экспериментирования в обучении и освоения альтернативных моделей управления и контроля, военные могут лучше подготовиться к неизбежным грядущим изменениям. Традиционный ответ на проблему принятия, связанную с использованием ИИ в военных целях, заключался в сохранении “значительного человеческого контроля” как способа вызвать уверенность и доверие. Этот ответ больше не актуален, учитывая как повсеместное распространение, так и быстрое развитие ИИ и связанных с ним технологий”, — подчеркивается в докладе.
Исследователи отметили, что для успешного использования ИИ необходимо найти баланс между доверием и недоверием “умному” оборудованию, ведь чрезмерная склонность и в одну, и в другую сторону может навредить людям. В случае более широкого распространения таких систем в вооруженных силах могут появиться новые модели управления и контроля.
Директор QinetiQ по обучению Кристина Балис считает, что человечеству необходимо переосмыслить свою роль в принятии решений во время войны во всех сферах, а также реформировать институты и команды, использующие ИИ.