OpenAI заблокувала китайські акаунти за стеження в соцмережах

OpenAI заблокувала акаунти групи китайських користувачів, які намагалися використовувати ChatGPT для налагодження і редагування коду штучного інтелекту для спостереження за соціальними мережами, повідомила компанія в п’ятницю. В рамках кампанії, яку OpenAI називає Peer Review, група попросила ChatGPT генерувати комерційні пропозиції для програми, яка, як випливає з документів, була розроблена для моніторингу антикитайських настроїв на X, Facebook, YouTube, Instagram та інших платформах. Операція, схоже, була особливо зацікавлена у виявленні закликів до протестів проти порушень прав людини в Китаї, щоб поділитися цією інформацією з владою країни.

“Ця мережа складалася з облікових записів ChatGPT, які працювали в часовому режимі, що відповідає робочому часу на материковій частині Китаю, підказували наші моделі китайською мовою і використовували наші інструменти з обсягом і різноманітністю, що відповідає ручному підказуванню, а не автоматизації”, – зазначили в OpenAI. “Оператори використовували наші моделі для перевірки заяв про те, що їхні дані були надіслані до китайських посольств за кордоном, а також агентам спецслужб, які відстежували протести в таких країнах, як США, Німеччина та Великобританія”.

За словами Бена Німмо, головного дослідника OpenAI, це був перший випадок, коли компанія виявила подібний інструмент ШІ. “Зловмисники іноді дають нам уявлення про те, що вони роблять в інших частинах інтернету, завдяки тому, як вони використовують наші моделі штучного інтелекту”, – сказав Німмо в інтерв’ю The New York Times.

Значна частина коду інструменту спостереження, схоже, була заснована на версії з відкритим вихідним кодом однієї з моделей Llama від Meta. Група також використовувала ChatGPT для створення звіту про результати діяльності на кінець року, в якому вона стверджує, що писала фішингові електронні листи від імені клієнтів у Китаї.

“Для оцінки впливу цієї діяльності знадобиться інформація від багатьох зацікавлених сторін, включаючи операторів будь-яких моделей з відкритим вихідним кодом, які можуть пролити світло на цю діяльність”, – заявили в OpenAI про використання ChatGPT для редагування коду для інструменту штучного інтелекту для спостереження за соціальними мережами.

Окремо OpenAI повідомила, що нещодавно заблокувала акаунт, який використовував ChatGPT для створення постів у соціальних мережах з критикою Цай Ся, китайського політолога і дисидента, який живе в США у вигнанні. Ця ж група також використовувала чат-бота для створення статей іспанською мовою з критикою США. Ці статті публікувалися “мейнстрімними” новинними організаціями в Латинській Америці і часто приписувалися або окремим особам, або китайським компаніям.