Grok перестане редагувати фото людей, одягаючи їх у бікіні

X заявляє, що змінює свою політику щодо можливостей редагування зображень Grok після кількатижневого скандалу, пов’язаного з тим, що чат-бот неодноразово звинувачували у створенні сексуалізованих зображень дітей та оголених людей без їхньої згоди. У повідомленні, опублікованому на акаунті @Safety в X, компанія заявила, що «впровадила технічні заходи, щоб запобігти редагуванню акаунтом Grok зображень реальних людей у відвертому одязі, такому як бікіні».

За словами X, нові заходи безпеки застосовуватимуться до всіх користувачів, незалежно від того, чи платять вони за Grok. xAI також переносить усі функції Grok з генерації зображень за платну підписку, щоб користувачі, які не платять, більше не могли створювати зображення. Крім того, компанія заблокує «можливість всіх користувачів створювати зображення реальних людей у бікіні, нижній білизні та подібному одязі через акаунт Grok і в Grok в X» у регіонах, де це є незаконним.

Заява компанії з’явилася через кілька годин після того, як штат Каліфорнія розпочав розслідування щодо xAI та Grok у зв’язку з обробкою ними матеріалів, що містять оголеність та експлуатацію дітей, створених за допомогою штучного інтелекту. У заяві генерального прокурора Каліфорнії Роба Бонти цитується один аналіз, згідно з яким «більше половини з 20 000 зображень, створених xAI між Різдвом і Новим роком, зображували людей у мінімальному одязі», серед яких були й діти.

У своєму оновленні X заявив, що має «нульову терпимість» до експлуатації дітей і що видаляє зі своєї платформи «вміст, який порушує права людини, включаючи матеріали про сексуальне насильство над дітьми (CSAM) та оголеність без згоди». Раніше того ж дня Ілон Маск заявив, що «не знає про жодні зображення оголених неповнолітніх, створені Grok». Пізніше він додав, що коли увімкнено налаштування NSFW, «Grok повинен [sic] дозволяти оголення верхньої частини тіла уявних дорослих людей (не реальних) відповідно до того, що можна побачити у фільмах з рейтингом R на Apple TV». Він додав, що «це буде відрізнятися в інших регіонах» залежно від місцевих законів.

Малайзія та Індонезія нещодавно вирішили заблокувати Grok, посилаючись на міркування безпеки та його поводження з матеріалами сексуального характеру, створеними штучним інтелектом. У Великобританії, де регулятор Ofcom також розслідує xAI та Grok, чиновники також заявили, що підтримають подібну блокування чат-бота.