Чат-бот зі штучним інтелектом Grok, розроблений компанією xAI Ілона Маска та вбудований у соціальну мережу X, опинився у центрі чергового скандалу. Користувачі з’ясували, що сервіс здатен генерувати сексуалізовані зображення реальних людей без їхнього дозволу, зокрема й осіб, які не досягли повноліття. Про це повідомляє Bloomberg,
У відповідь на окремі запити Grok створював і публікував зображення людей у вкрай відвертому вигляді, що суперечить задекларованим правилам платформи. В окремих випадках мова йшла про зображення дітей, що викликало серйозне занепокоєння серед фахівців у сфері цифрової безпеки. Після розголосу такі матеріали були видалені з платформи.
Компанія xAI не надала офіційних коментарів щодо інциденту. Водночас сам Grok оприлюднив заяву в соціальній мережі X, у якій визнав наявність прогалин у механізмах захисту та пообіцяв оперативно їх усунути. Також було заявлено про перегляд і посилення систем безпеки.
Експерти наголошують, що ситуація демонструє серйозну проблему контролю контенту в моделях штучного інтелекту, здатних змінювати або створювати зображення людей без їхньої згоди. За даними організації Internet Watch Foundation, у першій половині 2025 року кількість сексуально відвертих зображень неповнолітніх, створених за допомогою ШІ, зросла на 400%.
Компанія xAI позиціонує Grok як менш обмежену модель порівняно з іншими системами штучного інтелекту та раніше запровадила режим Spicy Mode, який допускає часткову дорослу оголеність. Водночас сервіс офіційно забороняє будь-який сексуальний контент за участі дітей, створення або поширення якого є протизаконним. Інцидент уже привернув увагу регуляторних органів і правозахисних організацій, які закликають посилити контроль за безпекою подібних сервісів.
Раніше Grok уже зазнавав критики через висловлювання з ознаками антисемітизму, позитивні згадки Адольфа Гітлера та надмірно схвальні оцінки діяльності Ілона Маска. Крім того, чат-бот без запиту користувачів поширював оголені відеоматеріали за участі співачки Тейлор Свіфт.
