ШІ-чатбот Grok, розроблений компанією xAI Ілона Маска та інтегрований у соцмережу X, опинився в центрі гучного скандалу через масове створення сексуалізованих зображень, зокрема із використанням реальних людей без їхньої згоди.
Як повідомляє CNN, користувачі почали активно використовувати Grok для так званого «цифрового роздягання» — редагування фото з соцмереж із метою зобразити людей у білизні, купальниках або в еротичних позах. У низці випадків йшлося про зображення осіб, які виглядали неповнолітніми, що може підпадати під визначення дитячої порнографії.
Європейська організація AI Forensics проаналізувала понад 20 тис. випадково згенерованих зображень та 50 тис. запитів користувачів до Grok у період з 25 грудня по 1 січня. За їхніми даними:
У деяких випадках, за даними дослідників, користувачі прямо просили зобразити неповнолітніх у сексуальних позах або з додаванням сексуалізованих деталей, і Grok виконував такі запити.
У xAI заявили, що вживають заходів проти незаконного контенту, включно з матеріалами сексуального насильства над дітьми (CSAM): видаляють зображення, блокують акаунти та співпрацюють із правоохоронними органами.
Сам Grok визнав наявність «прогалин у захисних механізмах» і пообіцяв терміново їх виправити. Ілон Маск також заявив, що користувачі, які створюють незаконний контент за допомогою Grok, нестимуть відповідальність так само, як і при завантаженні такого контенту вручну.
Водночас журналісти CNN з посиланням на джерела в компанії зазначають, що Маск тривалий час виступав проти «надмірної цензури» в ШІ-моделях і внутрішньо опирався посиленню обмежень для Grok. Крім того, напередодні скандалу компанію залишили кілька ключових співробітників команди з безпеки.
Ситуація привернула увагу регуляторів у різних країнах:
Юристи наголошують, що платформи, які генерують або поширюють ШІ-контент із сексуалізацією дітей, можуть нести як кримінальну, так і цивільну відповідальність. У США нещодавно ухвалений закон Take It Down Act зобов’язує платформи видаляти несанкціоновані інтимні зображення — як реальні, так і згенеровані ШІ — протягом 48 годин після скарги.
Експерти з ШІ-безпеки зазначають, що технологічні «запобіжники» для запобігання подібному контенту існують, однак їх впровадження потребує додаткових ресурсів і може уповільнювати роботу моделей.
Скандал навколо Grok уже називають одним із найсерйозніших прикладів того, як поєднання генеративного ШІ та соцмереж без достатніх обмежень може створювати системні ризики — передусім для жінок і дітей.