Meta більше не дозволить підліткам спілкуватися з її чат-ботами у їхньому нинішньому вигляді. У п’ятницю компанія оголосила, що «тимчасово призупинить доступ підлітків до існуючих чат-ботів у всьому світі».
Призупинення відбувається через кілька місяців після того, як Meta заявила, що працює над батьківським контролем, орієнтованим на чат-ботів, після повідомлень про те, що деякі чат-боти Meta брали участь у сексуальних розмовах та інших тривожних взаємодіях з підлітками. Reuters повідомило про внутрішній документ Meta, в якому йшлося про те, що чат-ботам дозволялося вести «чуттєві» розмови з неповнолітніми користувачами, що, за словами Meta, було «помилковим і суперечило нашій політиці». У серпні компанія оголосила, що перенавчає своїх чат-ботів, щоб додати «захисні бар’єри як додатковий запобіжний захід», який завадить підліткам обговорювати самоушкодження, розлади харчової поведінки та самогубство.
Зараз Meta заявляє, що заборонить підліткам доступ до будь-яких своїх чат-ботів, поки «оновлений досвід не буде готовий». За словами представника Meta, ці оновлення включатимуть батьківський контроль. Нові обмеження, які почнуть діяти «у найближчі тижні», застосовуватимуться до користувачів з підлітковими акаунтами, «а також до людей, які заявляють, що є дорослими, але яких ми підозрюємо у підлітковому віці на основі нашої технології прогнозування віку». Підлітки все ще матимуть доступ до офіційного чат-бота Meta AI, який, за словами компанії, вже має «захист, відповідний віку».
Meta та інші компанії, що займаються штучним інтелектом і створюють «супутніх» персонажів, стикаються з посиленим контролем щодо ризиків для безпеки, які ці чат-боти можуть становити для молоді. Федеральна торгова комісія (FTC) та генеральний прокурор штату Техас розпочали розслідування щодо Meta та інших компаній протягом останніх місяців. Питання чат-ботів також піднялося в контексті позову щодо безпеки, поданого генеральним прокурором штату Нью-Мексико. Судовий процес має розпочатися на початку наступного місяця; адвокати Meta намагалися виключити свідчення, пов’язані з чат-ботами компанії на базі штучного інтелекту, про що цього тижня повідомило видання Wired.
