Reddit посилить перевірку, щоб не допустити ботів з ШІ

Минулого тижня редактори по всьому світу були охоплені скандалом, коли дізналися, що команда дослідників випустила рій ботів на основі штучного інтелекту, що імітують людей, на сабредіті “Зміни мою думку”. Масштабний експеримент був покликаний дослідити, наскільки переконливим може бути ШІ.

Боти опублікували понад 1700 коментарів, приймаючи образи жертв насильства або суперечливі ідентичності, як-от прихильника кампанії “Життя чорношкірих мають значення” (Lives Matter).

Для Reddit цей інцидент став міні-кошмаром. Бренд Reddit асоціюється з автентичністю – місцем, де реальні люди діляться реальними думками. Якщо ця екосистема, орієнтована на людину, буде порушена відходами штучного інтелекту або стане місцем, де люди не зможуть довіряти тому, що вони отримують інформацію від реальних людей, це може не лише загрожувати основній ідентичності Reddit. Під загрозою може опинитися прибуток Reddit, оскільки зараз компанія продає свій контент OpenAI для навчання.

Компанія засудила “неналежний і вкрай неетичний експеримент” і подала скаргу на університет, який його проводив. Але цей експеримент був лише одним з багатьох випадків, коли генеративні боти зі штучним інтелектом видаватимуть себе за людей на Reddit з різних причин – від наукових до політично-маніпулятивних.

Щоб захистити користувачів від маніпуляцій ботів і “зберегти Reddit людським”, компанія тихо сигналізувала про майбутню акцію, яка може бути непопулярною серед користувачів, які приходять на Reddit з іншої причини: анонімності.

У понеділок генеральний директор Reddit Стів Хаффман у своєму дописі повідомив, що Reddit почне співпрацювати з “різними сторонніми сервісами” для перевірки людяності користувачів. Це значний крок для платформи, яка історично не вимагала від користувачів майже ніякої особистої інформації для створення облікового запису.

“Щоб Reddit залишався людяним і відповідав новим регуляторним вимогам, нам знадобиться трохи більше інформації, – написав Хаффман. “Зокрема, нам потрібно знати, чи є ви людиною, а в деяких місцях – чи є ви повнолітнім. Але ми ніколи не захочемо знати ваше ім’я або хто ви”.

(Соціальні мережі вже почали впроваджувати перевірку особистих даних після того, як щонайменше дев’ять штатів і Великобританія прийняли закони, що зобов’язують перевіряти вік, щоб захистити дітей на своїх платформах).

Представник Reddit відмовився пояснити, за яких обставин компанія вимагатиме від користувачів пройти процес верифікації, але підтвердив, що Reddit вже вживає заходів для заборони “поганих” ботів. Речник також не поділився подробицями про те, які сторонні сервіси використовуватиме компанія і яку саме інформацію, що ідентифікує особу, доведеться надавати користувачам.

Багато компаній сьогодні покладаються на такі платформи верифікації, як Persona, Alloy, Stripe Identity, Plaid і Footprint, які зазвичай вимагають посвідчення особи, видане урядом, для підтвердження віку і людської приналежності. Існують також новіші та більш спекулятивні технології, такі як “Інструменти для людства” Сема Альтмана та його пристрій, що сканує очі і є “доказом того, що ти людина”.

Противники перевірок особи кажуть, що передача вашої особистої інформації соціальним мережам загрожує конфіденційності та безпеці даних. Особливо це стосується таких платформ, як Reddit, куди люди приходять, щоб поділитися досвідом, який вони, можливо, ніколи б не зробили, якби їхні імена були пов’язані з ними.

Неважко уявити світ, в якому влада може викликати в суд на Reddit для встановлення особи, наприклад, вагітного підлітка, який запитує про досвід абортів у жінок у штатах, де вони зараз заборонені. Подивіться, як Мета передала приватні розмови між жінкою з Небраски та її 17-річною донькою, в яких обговорювалися плани останньої перервати вагітність. Завдяки допомозі Мета правоохоронці отримали ордер на обшук, за яким матері та доньці були пред’явлені звинувачення у скоєнні кримінальних злочинів.

Саме такого ризику Reddit сподівається уникнути, звертаючись до зовнішніх фірм для надання “необхідної інформації і нічого більше”, за словами Хаффмана, який підкреслив, що “ми ніколи не хочемо знати ваше ім’я або хто ви є”.

“Анонімність має важливе значення для Reddit”, – сказав він.

Генеральний директор також зазначив, що Reddit продовжуватиме “надзвичайно захищати вашу особисту інформацію” і “продовжуватиме протистояти надмірним або необґрунтованим вимогам з боку державних або приватних органів влади”.