Корпорация Jigsaw, являющаяся дочерним филиалом Alphabet, открыла для интернет-пользователей бесплатный доступ к сервису API Perspective от Google. Он предназначен для исследования комментариев: может определять наличие в тексте оскорблений, троллинга и агрессии.
Данный ресурс функционирует на базе машинного обучения. Демо-вариант сегодня может испробовать каждый. Для перехода на ресурс нажмите здесь. Для того, чтобы проанализировать комментарии на наличие оскорблений нужно ввести определенный текст в специальное поле, после чего Perspective начнет измерять уровень его «загрязненности». В случае, когда вредных слов в тексте будет около 80%, существует шанс, что данный набор слов с большей долей вероятности обидит читателя.
Администраторы сайтов могут управлять информацией, генерированной Perspective. Владельцы ресурсов могут сортировать негативные словосочетания для будущей проверки модератором. Также есть возможность создать «шкалу токсичности», которая видна только автору комментария.
Сейчас ресурс продолжают совершенствовать. Разработчики просят пользователей оставлять свои отзывы и предложения, чтобы выполнять свою задачу более качественно.
Троллинг (от англ. trolling — ловля на блесну) — размещение на различных интернет-ресурсах провокационных статей, либо сообщений с целью развития конфликта между пользователями с сопровождением взаимных оскорблений и т.п. Лицо, которое занимается троллингом, именуют троллем, изначально это слово происходит именно от рыболовного термина троллинг, а не от мифологических троллей.
Агрессивные комментарии и троллинг часто становятся «главными героями» новостей технологий. В США даже было проведено исследование на данную тему в научном институте Data&Society. Социологи определили, что 50% американцев попадали в ситуации агрессии и троллинга во время Интернет-сессии.
Но эта проблема мешает не только читателям. Новостные организации хотят, чтобы читатели обсуждали их контент, но поиск негативных комментариев крайне долгий и дорогой, и поэтому многие ресурсы просто закрывают комментарии. Теперь же ресурс от Google позволит исправить этот недочет.