Руководящий партнер Эйви Венчерс Марианна Бонеки рассказала о важности искусственного интеллекта, месте Украины в глобальном пространстве и как Украина может стать мировым лидером в оборонной сфере
Марианна Бонеки пишет, что в течение последних нескольких лет Кремниевую долину поглотила тема искусственного интеллекта (AI). Дискуссия довольно быстрыми темпами переросла от негативного отношения по регулированию AI к активным призывам с просьбой создать четкие международные механизмы
“Поскольку темпы роста доходов крупнейших ІТ-компаний Кремниевой долины приближаются к плато, рынок требует новых источников дохода. Продажа облачных и AI-решений для военного использования позволяет частным компаниям значительно увеличить уровень продаж. Недавно Microsoft в жесткой борьбе с Amazon выиграл $10-миллиардный тендер на поставку облачной инфраструктуры Пентагону. А вот Google под давлением работников отказался от Project Maven (AI-решения для улучшения ударов беспилотников на поле боя) и не принимал участия в тендере облачной инфраструктуры. Однако компания нашла компромисс и заверила, что заинтересована в сотрудничестве с Департаментом обороны США при условии, что такое сотрудничество будет отвечать AI-принципам компании.
Несмотря на то, что АІ — это технология универсального использования и может использоваться как в коммерческих, так и в военных целях, а сотрудничество между Департаментом обороны и частными интернет-компаниями углубляется, некоторые эксперты оборонной отрасли все еще утверждают: АІ не отличается от других технологий военной автоматизации и не требует отдельных законодательных норм. Я не согласна с этим аргументом. В отличие от других технологий войны, АИ не разрабатывается мозгом физика в штате Нью-Мексико, а создается с помощью данных сотен миллионов интернет-пользователей во всем мире.
Как бы чувствовал себя интернет-пользователь, когда узнал, что его семейные фотографии будут использованы для разработки технологии распознавания лица и применены беспилотником для идентификации и уничтожения целей? Кто будет нести ответственность?
Хотя эта мощная технология и обещает ускорить сроки разработки новых эффективных лекарств, принести революцию в каждый промышленный сектор, но в то же время ставит под угрозу основные демократические ценности вокруг конфиденциальности данных и, к сожалению, пока нет регуляторной базы для любых непреднамеренных негативных последствий. Кроме принципов и установок, опубликованных на страницах IT-компаний, пока не существует международной регулятивной базы для АІ.
Новые методы ведения войны. Гонки между государствами давно перевели техническую и коммерческую составляющую АІ в геополитическую сферу. Канада, многочисленные европейские страны, Европейская комиссия обсуждают и публикуют стратегии АІ. Китай стремится к мировому лидерству, а Россия успела испытать наземные беспилотники в Сирии. Также США не отстают и резко увеличили расходы на финансирование АІ для военных целей. Только на 2020 год США запланировали выделить 4 миллиарда и более 200 миллионов долларов в Общий AI-Центр (JAIC) Министерства обороны.
Новая гонка между сверхдержавами началась за лидерство в сфере беспилотной авиации. Наибольший флот беспилотных самолетов в США насчитывает более 10 тысяч единиц, у русских — 2100. Китай лидирует на рынке беспилотных дронов и имеет амбициозный план на приобретение и разработку беспилотных самолетов. Министерство обороны США ежегодно тратит 12 миллиардов долларов в развитие автономных технологий, ускоряя день, когда роботам предоставят полномочия давить на курок. Многие страны подписали устав ООН о запрете автономного оружия, но США, Китай и Россия отказались от подписания этого соглашения. В демократических странах мы можем ожидать определенных ограничений по использованию АИ на поле боя, а как насчет авторитарных режимов? Что остановит их лидеров?
Вызовы АІ — глобальные, но подход к регулированию ограничен и достаточно фрагментарен. В отличие от ядерной энергии, которой владеют и управляют правительства, АІ находится в руках мультинациональных частных компаний. Даже лучшие попытки компаний саморегулироваться имеют недостатки. Недавно Google обнародовал АІ-инструменты, основанные на облачных технологиях, доступных для общего пользования. Хотя это и хороший первый шаг, многое необходимо сделать для формирования глобальных стандартов надежного АИ. Модельные карточки документируют модель машинного обучения и объясняют ее ограничения, но не предотвращают неправильное использование. Это как управление автомобилем: производитель продает авто, но не должен подтверждать, имеет ли покупатель права. Способность управлять подтверждается независимым органом. Подобное должно происходить и с этими моделями: независимые организации должны были контролировать, в правильных ли целях используется та или иная модель.
Илон Маск, Сэм Альтман и Юваль Харари были одними из первых, кто призывал к созданию глобальной нормативной базы. Вакуум наполняется многочисленными некоммерческими и исследовательскими организациями, которые пытаются придумать правила и положения. Однако, большинство из них привлекают только игроков из демократических стран с одинаковыми ценностями. Поскольку Китай движется к мировому лидерству в области АІ, он так должен стать неотъемлемой частью глобального диалога. Россия, сосредоточенная на военном использовании АІ, также остается вне глобальной дискуссии. Идея внедрения нормативно-правовой базы ООН по правам человека стала бы неплохим начальным этапом, но ее недостаточно, учитывая право вето у Китая, России и США.
Что остается для Украины? Правительства по всему миру стоят перед сложными задачами в поисках правильного рецепта национальных стратегий АИ. Канада сосредотачивается на том, чтобы привлечь как можно больше научных кандидатов и аспирантов в научно-исследовательские центры. Германия ставит в приоритет повышение эффективности производства и планирует создать 12 исследовательских центров для исследований, разработок и применения АІ. Дания хочет обеспечить лучшие условия для ведения бизнеса и создания благоприятной нормативной базы для компаний. Франция идет на шаг глубже, определяя основные экономические секторы для государственного финансирования АІ. Президент Макрон предлагает временное облегчение регуляторных ограничений и обещает отличные условия труда высококвалифицированным гражданам Франции, которые планирует вернуть из Кремниевой долины. Общим знаменателем европейских, азиатских и американских стратегий является построение частно-государственного партнерства в АІ.
Ведя активную войну как на поле боя, так и в киберпространстве, Украина имеет уникальный доступ к военным данным. При правильно разработанной стратегии военного АІ, мы сможем стать мировым лидером в оборонной сфере, как сделал это Израиль в кибербезопасности.
Сбор и управление военными данным, тренировка моделей машинного обучения, разработка АІ-решений для оборонной отрасли, адекватное финансирование как со стороны государства, так и с привлечением частных компаний, создание научно-исследовательских центров, а также нормативной базы, основанной на демократических ценностях, привлечение специалистов, временное ослабление регуляторных ограничений — прежде всего усилия Украины должны быть сосредоточены на это”, – сообщает Марианна Бонеки