Facebook начал использовать возможности искусственного интеллекта для выявления пользователей, которые, возможно, планируют покончить с собой.
Программисты этой социальной сети разработали алгоритмы, которые находят в сообщениях пользователей и комментариях их друзей сигналы об опасности.
Находки отправляют на проверку, которую выполняет уже не компьютер, а “живые” представители компании. Если они видят риск того, что человек может нанести себе вред, ему отправляют сообщение, в котором рассказывают, как получить помощь.
По словам руководителя линии поддержки для тех, кто думает о самоубийстве, такое нововведение “не просто полезно, а крайне необходимо”.
Сейчас новые алгоритмы тестируются только в США.
Это первый пример применения искусственного интеллекта в Facebook, с тех пор как в прошлом месяце основатель сети Марк Цукерберг объявил, что надеется выявлять с помощью таких алгоритмов сообщения террористов и другие тревожные сообщения.
“Мы понимаем, что в таких ситуациях нужно действовать очень быстро”, – сказала корреспонденту ВВС Ванесса Келлисон-Берч, менеджер по продукции Facebook.
Д-р Джон Дрейпер, директор Национальной линии доверия по предотвращению суицида, одобрительно отозвался об этой инициативе, но выразил надежду, что скоро Facebook не будет ограничиваться общими советами, а начнет самостоятельно обращаться к специалистам, чтобы те предлагали пользователям свою помощь.
“Мы уже обсуждаем эту возможность с уполномоченными лицами в Facebook”, – говорит Дрейпер.
“Чем более широкую сеть поддержки мы сможем задействовать, тем вероятнее, что человек в беде получит необходимую помощь. Вопрос в том, как это лучше делать, чтобы не выглядеть слишком навязчивыми. По моему мнению, то, что предлагает Facebook – огромный шаг вперед”, – считает директор Национальной линии доверия по предотвращению суицида.
Келлисон-Берч признает, что забота друзей и родных обычно эффективнее, чем сообщение от Facebook, но добавляет, что информировать третьих лиц не всегда этично.
“Мы высоко ценим конфиденциальность и не столь знакомы с динамикой личных отношений между людьми. Поэтому мы стараемся предложить человеку в беде различные пути получения поддержки и помощи”, – говорит она.
После смерти 14-летней девушки из Майами, которая в январе совершила самоубийство в прямом эфире на платформе Facebook Live, там произошли нововведения, направленные на помощь авторам трансляций.
Впрочем, представители компании говорят, что их запустили в разработку еще до трагедии.
Цель нововведений – оказать помощь пользователям из группы риска еще во время трансляции, не дожидаясь ее завершения.
Теперь, когда зрителей трансляции смущает что-то из увиденного, они могут выбрать специальный пункт в меню и мгновенно получить советы, как помочь автору трансляции.
Трансляцию также отправляют на немедленную проверку для работников Facebook, которые могут отправить автору или зрителям собственные рекомендации, если считают это целесообразным.
“Возможно, кто-то думает, что мы должны оборвать трансляцию, как только услышим там намеки на суицид”, – говорит Дженнифер Гваданьо, работница Facebook и ведущий исследователь этого проекта.
“Но наши консультанты единодушны: если слишком рано оборвать трансляцию, мы лишим зрителей возможности помочь этому человеку”, – считает сотрудница Facebook.
“Если же трансляция будет продолжаться, друзья и родные смогут связаться с автором здесь и сейчас – во время, когда этому человеку больше всего нужна помощь”.
Новую систему уже запускают по всему миру.
Однако возможность связаться с линией доверия через Facebook Messenger пока доступна только пользователям в США.
Прежде чем открывать ее в других странах, Facebook должен приобщить к проекту другие службы, которые смогут удовлетворить спрос пользователей на психологическую поддержку.
“Имеющиеся усилия и планы на будущее вселяют в меня надежду, что мы сможем спасти от самоубийства еще больше людей во всем мире”, – говорит д-р Дэн Рэйден, исполнительный директор службы Save.org, которая участвует в проекте.
“Сейчас мы имеем больше возможностей предотвратить суицид, чем когда-либо прежде, даже если речь идет о платформе Facebook Live”, – заключает он.
