Character.ai повідомляє батькам, з якими ботами спілкується дитина

Сервіс чат-ботів Character.AI додає нову функцію “Батьківський погляд”, яка дозволяє підліткам надсилати щотижневий звіт про використання свого чат-бота на електронну адресу батьків. Як зазначено в повідомленні компанії, цей звіт включає середній щоденний час, проведений в Інтернеті та на мобільних пристроях, персонажів, з якими користувач найчастіше взаємодіяв, і скільки часу він витратив на розмову з кожним персонажем. Це частина серії оновлень, покликаних вирішити проблеми, пов’язані з тим, що неповнолітні проводять занадто багато часу з чат-ботами і стикаються з неприйнятним контентом під час чатів.

Звіт, який не вимагає наявності облікового запису у батьків, є необов’язковим і може бути налаштований неповнолітніми користувачами в налаштуваннях Character.AI. У компанії зазначають, що це огляд активності підлітків, а не повний лог – тому зміст розмов чат-ботів не буде поширюватися. Платформа забороняє доступ дітям до 13 років у більшості країн і до 16 років у Європі.

Character.AI впроваджує нові функції для неповнолітніх користувачів з минулого року, що збігається із занепокоєнням – і навіть юридичними скаргами – щодо її сервісу. Популярна серед підлітків платформа дозволяє користувачам створювати та налаштовувати чат-ботів, з якими вони можуть взаємодіяти або публічно ділитися інформацією. Але численні судові позови стверджують, що ці боти пропонували неналежний сексуалізований контент або матеріали, які пропагували самоушкодження. Також повідомляється, що компанія отримала попередження від Apple і Google (яка найняла засновників Character.AI минулого року) щодо контенту свого додатку.

Компанія заявляє, що її система була перероблена; серед інших змін, вона перевела користувачів віком до 18 років на модель, навчену уникати “чутливих” результатів, і додала більш помітні сповіщення, які нагадують користувачам про те, що боти не є реальними людьми. Але з огляду на зростання ентузіазму щодо регулювання ШІ та законів про безпеку дітей, це, ймовірно, не останній крок, який має зробити компанія.