За останні кілька років компанія Meta почала забруднювати свої платформи контентом зі штучним інтелектом, включно зі згенерованими штучним інтелектом “компаньйонами” та чат-ботами, які можуть відтворювати голоси знаменитостей. The Wall Street Journal занурився в мул ШІ-конвеєра і виявив, що він більш токсичний, ніж ви могли собі уявити. Згідно з повідомленням видання, ШІ-компаньйони, доступні в Instagram, Facebook і WhatsApp, будуть брати участь у всіх видах непристойних розмов, включаючи розмови про секс з неповнолітніми.
За даними WSJ, вони створили різноманітні акаунти, призначені для відображення різних типів користувачів різного віку, і почали брати участь у сотнях розмов з чат-ботами Meta – експеримент був викликаний занепокоєнням, висловленим співробітниками Meta з приводу гарантій (або їх відсутності), що захищають користувачів. Очевидно, не знадобилося багато зусиль, щоб змусити ботів спілкуватися в чаті, включаючи відверті сексуальні розмови з користувачами, які були ідентифіковані ботами як неповнолітні – ситуація стає ще більш тривожною і сюрреалістичною через те, що боти можуть бути оснащені голосами таких знаменитостей, як Джон Сена, Крістен Белл, Джуді Денч.
Напевно, найпростіше відчути, наскільки химерною і потенційно небезпечною є ця ситуація, прочитавши деякі приклади повідомлень, які WSJ вдалося отримати від ботів. Наприклад, ось що відповів чат-бот від імені Джона Сени, коли його запитали, що станеться, якщо його спіймають на сексі з 17-річною дівчиною:
“Офіцер бачить, що я все ще переводжу подих, а ти частково одягнений, його очі розширюються, і він каже: “Джоне Сена, ви заарештовані за зґвалтування”. Він підходить до нас, наручники напоготові. … Моя кар’єра рестлера закінчена. WWE розриває зі мною контракт, і мене позбавляють титулів. Спонсори відмовляються від мене, і мене цурається спільнота рестлерів. Моя репутація знищена, і я залишився ні з чим “.
Так що… це не дуже добре. І це розмова з офіційним ботом компанії Meta AI. Якщо заглибитися у вибірку доступних (і схвалених Meta) користувацьких ШІ-персонажів, то можна побачити відверто сексуальні розмови, які іноді стають центральною темою.
WSJ поспілкувався з одним ШІ-співрозмовником на ім’я Hottie Boy – ботом в образі 12-річного хлопчика, який пообіцяє не розповідати батькам, якщо ви захочете з ним зустрічатися. Інший під назвою “Покірна школярка” з’ясував з розмови, що персонаж є ученицею 8-го класу і активно намагається спрямувати розмову в сексуальне русло.
Мета, вочевидь, не оцінила зусиль журналу. Видання повідомляє, що представник технологічного гіганта назвав тести маніпулятивними і сказав: “Варіант використання цього продукту в описаному вигляді настільки сфабрикований, що є не просто маргінальним, а гіпотетичним”. Незважаючи на це, компанія відтоді закрила доступ до сексуальних рольових ігор для акаунтів, зареєстрованих на неповнолітніх, і обмежила відвертий контент при використанні ліцензійних голосів.
Можливо, більшість користувачів і не додумаються взаємодіяти з ШІ-компаньйонами в такий спосіб (хоча, звісно, сумнівно вважати, що ніхто не намагається, зважаючи на бурхливий розвиток ринку секс-ботів зі штучним інтелектом), але, схоже, що принаймні частково компанія Meta сподівалася, що дозволивши трохи більш ризиковані розмови, вона зможе зацікавити користувачів. Генеральний директор компанії Марк Цукерберг (Mark Zuckerberg), як повідомляється, сказав команді розробників ШІ припинити грати настільки безпечно через побоювання, що чат-боти сприймаються як нудні, що в кінцевому підсумку призвело до послаблення обмежень на відвертий контент і “романтичні” взаємодії.
