Новости технологий

Facebook непреднамеренно генерирует страницы для экстремистов и ИГИЛ

В Facebook заявляют, что автоматизированные системы социальной сети удаляют подавляющее большинство запрещенного контента, прославляющего группу «Исламское государство» и «Аль-Каиду». Но, по факту оказалось, что сам Facebook непреднамеренно создал десятки страниц в сети

После шквала критики, что Facebook не борется с экстремистскими сообществами, в компании заявили, что автоматизированные системы удаляют подавляющее большинство запрещенного контента, в поддержку Исламского государства и Аль-Каиды до того, как об этом сообщают пользователи.

Но последние жалобы пользователей доказывают, что сам Facebook непреднамеренно предоставил двум экстремистским группам инструмент для налаживания связей и вербовки, создав десятки страниц, посвященных запрещенным группировкам.

Не так давно издание Associated Press подробно описывало, как страницы, которые Facebook автоматически генерирует для предприятий, помогают ближневосточным экстремистам.

На этой неделе сенаторы США в Комитете по торговле, науке и транспорту проводили допрос представителей социальных сетей, в том числе Моники Бикерт, которая возглавляет департамент Facebook по пресечению экстремистских сообществ.

В отчетах, полученных изданием AP, идентифицируется почти 200 автоматически сгенерированных страниц – некоторые для предприятий, другие для школ или других категорий – которые непосредственно ссылаются на группу Исламского государства и десятки других, таких как «Аль-Каида» и другие террористические группировки.

К примеру, одна страница, обозначенная как «политическая идеология», называется «Я люблю Исламское государство». Логотип ИГИЛ находится в ней внутри контуров знаменитой пиктограммы Facebook.

В ответ на запрос о комментариях представитель Facebook сказал: «Нашим приоритетом является обнаружение и удаление контента, размещенного людьми, который нарушает нашу политику в отношении терроризма. Автоматически сгенерированные страницы не похожи на обычные страницы Facebook, поскольку люди не могут комментировать или публиковать их, и мы удаляем все группы, которые нарушают наши правила».

Facebook имеет ряд функций, которые автоматически генерируют страницы из контента, размещенного пользователями. Сейчас рассматривается функция, которая должна помогать в ведении бизнеса в Сети. Она собирает информацию о занятости со страниц пользователей для создания страниц для предприятий. В этом конкретном случае эта функция может помочь экстремистским группам, потому что позволяет пользователям создавать такие страницы, предоставляя список потенциальных участников для вербовщиков террористических организаций.

Страницы пользователей, поддерживающих экстремистские группы, по-прежнему легко найти с помощью простого поиска по их именам. Издание AP обнаружило одну страницу «Мухаммеда Атта» с фотографией одного из сторонников «Аль-Каиды», который был угонщиком во время нападений 11 сентября. На странице перечислены места работы пользователя  – «Аль-Каида» и образование – «Университет имени мистера бен Ладена» и «Школа террористического Афганистана».

Facebook работает над тем, чтобы ограничить распространение экстремистских материалов на своем сервисе, но пока с переменным успехом. В марте компания расширила свое определение запрещенного контента, включив материалы международных экстремистских групп. 

Facebook также расширил свое определение терроризма, включив в него не только акты насилия, совершаемые с целью достижения политической или идеологической цели, но и попытки насилия, особенно когда они направлены против гражданского населения с целью принуждения и запугивания. Неясно, однако, насколько хорошо работают новшества, если у компании все еще есть проблемы с очищением платформы от сторонников известных экстремистских организаций.

Ольга Степанова