Сервис Bark.us уже проанализировал 500 млн сообщений и спас 25 детей, которые собирались покончить жизнь самоубийством, сообщает VentureBeat.
Bark.us использует машинное обучение и статистический анализ для сканирования разговоров подростков по электронной почте, SMS и в сервисах вроде Snapchat, Instagram и WhatsApp. Анализ проводится, чтобы определить, страдает ли ребенок от запугивания, суицидальных мыслей, депрессии и других негативных явлений, которым подвержены дети в интернете. Когда обнаруживаются тревожные признаки, Bark.us предупреждает родителей через электронную почту и предлагает возможные шаги. Подписка на сервис стоит 9 долларов в месяц или 99 долларов в год для семьи. Компания состоит из девяти сотрудников и находится в Атланте, штат Джорджия.
Bark.us не единственные, кто полагается на машинное обучение для защиты молодых пользователей интернета. Например, Crisis Text Line — это чат-сервис для людей, у кого просто плохой день и заканчивая теми, кто испытывает депрессию или думает о самоубийстве. Большинство его пользователей моложе 25 лет. Если человек использует конкретные слова, показывающие высокий риск самоубийства, на помощь приходят службы экстренной помощи.
Недавно был запущен проект AI Buddy («Приятель-искусственный интеллект»), предоставляющий детям военнослужащих возможность пообщаться с персонажем из мультфильма на своих любимых цифровых платформах, пока их родители на службе. Отчеты о ходе работы, основанные на анализе слов, используемых ребенком, затем будут отправлены родителям или опекунам. Оказалось, что дети военнослужащих больше всего подвержены риску самоубийства.