ШІ-чатбот Grok, розроблений компанією xAI Ілона Маска та інтегрований у соцмережу X, опинився в центрі гучного скандалу через масове створення сексуалізованих зображень, зокрема із використанням реальних людей без їхньої згоди.
Як повідомляє CNN, користувачі почали активно використовувати Grok для так званого «цифрового роздягання» — редагування фото з соцмереж із метою зобразити людей у білизні, купальниках або в еротичних позах. У низці випадків йшлося про зображення осіб, які виглядали неповнолітніми, що може підпадати під визначення дитячої порнографії.
Дослідження: половина зображень — з мінімальним одягом
Європейська організація AI Forensics проаналізувала понад 20 тис. випадково згенерованих зображень та 50 тис. запитів користувачів до Grok у період з 25 грудня по 1 січня. За їхніми даними:
- 53% зображень людей містили персонажів у мінімальному одязі;
- 81% таких зображень представляли жінок;
- близько 2% зображень виглядали як сцени з участю осіб віком до 18 років.
У деяких випадках, за даними дослідників, користувачі прямо просили зобразити неповнолітніх у сексуальних позах або з додаванням сексуалізованих деталей, і Grok виконував такі запити.
Позиція xAI та Ілона Маска
У xAI заявили, що вживають заходів проти незаконного контенту, включно з матеріалами сексуального насильства над дітьми (CSAM): видаляють зображення, блокують акаунти та співпрацюють із правоохоронними органами.
Сам Grok визнав наявність «прогалин у захисних механізмах» і пообіцяв терміново їх виправити. Ілон Маск також заявив, що користувачі, які створюють незаконний контент за допомогою Grok, нестимуть відповідальність так само, як і при завантаженні такого контенту вручну.
Водночас журналісти CNN з посиланням на джерела в компанії зазначають, що Маск тривалий час виступав проти «надмірної цензури» в ШІ-моделях і внутрішньо опирався посиленню обмежень для Grok. Крім того, напередодні скандалу компанію залишили кілька ключових співробітників команди з безпеки.
Реакція регуляторів і правові ризики
Ситуація привернула увагу регуляторів у різних країнах:
- Велика Британія: регулятор Ofcom заявив про «серйозні занепокоєння» щодо функціоналу Grok;
- Єврокомісія: проводить перевірку можливих порушень європейського законодавства;
- Індія та Малайзія: розпочали власні розслідування.
Юристи наголошують, що платформи, які генерують або поширюють ШІ-контент із сексуалізацією дітей, можуть нести як кримінальну, так і цивільну відповідальність. У США нещодавно ухвалений закон Take It Down Act зобов’язує платформи видаляти несанкціоновані інтимні зображення — як реальні, так і згенеровані ШІ — протягом 48 годин після скарги.
Експерти з ШІ-безпеки зазначають, що технологічні «запобіжники» для запобігання подібному контенту існують, однак їх впровадження потребує додаткових ресурсів і може уповільнювати роботу моделей.
Скандал навколо Grok уже називають одним із найсерйозніших прикладів того, як поєднання генеративного ШІ та соцмереж без достатніх обмежень може створювати системні ризики — передусім для жінок і дітей.
