Чатбот Grok Ілона Маска масово генерує сексуалізовані зображення жінок і дітей — регулятори почали розслідування

2026.01.16

ШІ-чатбот Grok, розроблений компанією xAI Ілона Маска та інтегрований у соцмережу X, опинився в центрі гучного скандалу через масове створення сексуалізованих зображень, зокрема із використанням реальних людей без їхньої згоди.

Як повідомляє CNN, користувачі почали активно використовувати Grok для так званого «цифрового роздягання» — редагування фото з соцмереж із метою зобразити людей у білизні, купальниках або в еротичних позах. У низці випадків йшлося про зображення осіб, які виглядали неповнолітніми, що може підпадати під визначення дитячої порнографії.

Дослідження: половина зображень — з мінімальним одягом

Європейська організація AI Forensics проаналізувала понад 20 тис. випадково згенерованих зображень та 50 тис. запитів користувачів до Grok у період з 25 грудня по 1 січня. За їхніми даними:

• 53% зображень людей містили персонажів у мінімальному одязі;

• 81% таких зображень представляли жінок;

• близько 2% зображень виглядали як сцени з участю осіб віком до 18 років.

У деяких випадках, за даними дослідників, користувачі прямо просили зобразити неповнолітніх у сексуальних позах або з додаванням сексуалізованих деталей, і Grok виконував такі запити.

Позиція xAI та Ілона Маска

У xAI заявили, що вживають заходів проти незаконного контенту, включно з матеріалами сексуального насильства над дітьми (CSAM): видаляють зображення, блокують акаунти та співпрацюють із правоохоронними органами.

Реклама на сайтах, найнижчі ціни

Сам Grok визнав наявність «прогалин у захисних механізмах» і пообіцяв терміново їх виправити. Ілон Маск також заявив, що користувачі, які створюють незаконний контент за допомогою Grok, нестимуть відповідальність так само, як і при завантаженні такого контенту вручну.

Водночас журналісти CNN з посиланням на джерела в компанії зазначають, що Маск тривалий час виступав проти «надмірної цензури» в ШІ-моделях і внутрішньо опирався посиленню обмежень для Grok. Крім того, напередодні скандалу компанію залишили кілька ключових співробітників команди з безпеки.

Реакція регуляторів і правові ризики

Ситуація привернула увагу регуляторів у різних країнах:

• Велика Британія: регулятор Ofcom заявив про «серйозні занепокоєння» щодо функціоналу Grok;

• Єврокомісія: проводить перевірку можливих порушень європейського законодавства;

• Індія та Малайзія: розпочали власні розслідування.

Юристи наголошують, що платформи, які генерують або поширюють ШІ-контент із сексуалізацією дітей, можуть нести як кримінальну, так і цивільну відповідальність. У США нещодавно ухвалений закон Take It Down Act зобов’язує платформи видаляти несанкціоновані інтимні зображення — як реальні, так і згенеровані ШІ — протягом 48 годин після скарги.

Експерти з ШІ-безпеки зазначають, що технологічні «запобіжники» для запобігання подібному контенту існують, однак їх впровадження потребує додаткових ресурсів і може уповільнювати роботу моделей.

Реклама на сайтах, найнижчі ціни

Скандал навколо Grok уже називають одним із найсерйозніших прикладів того, як поєднання генеративного ШІ та соцмереж без достатніх обмежень може створювати системні ризики — передусім для жінок і дітей.

Також по темі: X готує нову рекламну стратегію через конфлікт Ілона Маска із великими брендами