Система перевірки віку Roblox виявилася катастрофою

Система перевірки віку Roblox була розроблена у відповідь на звинувачення в тому, що вона має проблему з педофілами. Минуло менше тижня, як це працює? Wired повідомив у вівторок, що в деяких випадках вона класифікує дітей як дорослих, а дорослих як дітей.

Минулого тижня Roblox зробив перевірку віку обов’язковою для всіх, хто використовує функцію чату платформи. Цей процес передбачає або надання оцінки віку за допомогою селфі, або (за бажанням для осіб віком від 13 років) завантаження копії державного посвідчення особи. Після перевірки ви можете спілкуватися лише з групами гравців, які мають приблизно ваш вік.

Цей крок був зроблений після того, як з’явилися повідомлення про те, що хижаки використовують платформу для вербування маленьких дітей. Це, в свою чергу, призвело до судових позовів у Луїзіані, Техасі та Кентуккі. Тим часом генеральний прокурор Флориди видав кримінальні повістки.

Не буде перебільшенням сказати, що виживання Roblox може залежати від того, як компанія вирішить цю проблему. Початок не був надто вдалим. Є повідомлення про 23-річну особу, яку помилково визнали 16-17-річною. («Я не хочу спілкуватися з клятими дітьми», — сказали вони). В іншому повідомленні стверджувалося, що 18-річного підлітка віднесли до вікової групи 13–15 років.

Але проблема існує і в зворотному напрямку. В інтернет-відео показано, як діти обманюють систему, використовуючи зображення аватарів, щоб видати себе за дорослих. Один кмітливий підліток намалював собі зморшки та щетину на обличчі і його одразу ж віднесли до вікової групи 21+. Інший показав фото Курта Кобейна і отримав класифікацію «дорослий».

Крім того, минулого тижня Roblox опублікував інформацію про те, що деякі батьки перевіряли вік своїх дітей, в результаті чого їхні діти були віднесені до категорії 21+. Компанія заявила, що «працює над вирішенням» цієї конкретної проблеми і незабаром поділиться додатковою інформацією.

Roblox опублікувала наступну заяву від Метта Кауфмана, директора з безпеки компанії:

«Стверджувати, що наша технологія перевірки віку не працює, означає фундаментально не розуміти, що потрібно для забезпечення безпеки в таких масштабах. Маючи глобальну спільноту, яка налічує понад 150 мільйонів активних користувачів щодня, ми задоволені тим, на якому етапі впровадження ми зараз перебуваємо. Це процес, який потребує часу, адже не можна просто натиснути на кнопку, створюючи щось, чого раніше не існувало.

Десятки мільйонів користувачів вже пройшли цей процес, що доводить, що переважна більшість нашої спільноти цінує безпечніше середовище, яке відповідає їхньому віку. Очікувати, що система стане бездоганною за одну ніч, означає ігнорувати масштабність цього завдання. Ми вже поділилися оновленнями з нашою спільнотою творців, щоб зробити цей перехід більш плавним. Ця технологія є основою нового золотого стандарту, який за замовчуванням обмежує спілкування між дорослими та неповнолітніми.

Ми будуємо для наступного десятиліття інтернету, а не для наступного циклу новин. Ми будемо продовжувати впроваджувати інновації, вимагати перевірки віку та лідирувати в галузі, де інші надто вагаються».

Розробники ігор на Roblox обурені. На форумі розробників платформи є тисячі негативних коментарів щодо оновлень, і багато хто з них хоче, щоб все оновлення було скасовано. Один з них поділився графіком, який показує, що відсоток використання функції чату впав з приблизно 90% до 36,5%.

Що це означає для Roblox? Оскільки деякі розробники описують ігри на платформі як «безжиттєві» або «повністю мертві», компанія має чимало роботи. Їй доведеться з’ясувати, як збалансувати свої пріоритети щодо усунення хижаків, не порушуючи при цьому комфорту інших користувачів. Повний звіт від Wired варто прочитати.