Шкідливий контент у Bluesky росте разом з кількістю користувачів

Минулого року Bluesky пережив вибуховий ріст, особливо наприкінці, що вимагало від платформи посилення зусиль з модерації. У своєму нещодавно опублікованому звіті про модерацію за 2024 рік Bluesky повідомив, що кількість користувачів зросла приблизно на 23 мільйони, збільшившись з 2,9 мільйона користувачів до майже 26 мільйонів. Крім того, його модератори отримали в 17 разів більше повідомлень від користувачів, ніж у 2023 році – 6,48 мільйона у 2024 році порівняно з 358 000 у попередньому році.

Більшість цих повідомлень стосувалися “переслідувань, тролінгу або нетерпимості”, спаму та контенту, що вводить в оману (включно з видаванням себе за іншу особу та дезінформацією). Наявність акаунтів, які видають себе за інших людей, стала відомою проблемою після сплеску популярності Bluesky, і в листопаді платформа оновила свою політику щодо видачі себе за інших людей, застосувавши “більш агресивний” підхід у спробі боротися з цим явищем. Тоді вона заявила, що вчетверо збільшила команду модераторів. У новому звіті йдеться про те, що команда модераторів Bluesky зросла приблизно до 100 осіб, і набір продовжується. “Деякі модератори спеціалізуються на певних сферах політики, наприклад, на питаннях безпеки дітей”, – зазначається у звіті.

Серед інших категорій, про які, за словами Bluesky, він отримав багато повідомлень, – “незаконні та термінові питання” і небажаний сексуальний контент. Було також 726 000 повідомлень, позначених як “інше”. Bluesky заявляє, що задовольнила 146 запитів від “правоохоронних органів, урядів, юридичних фірм” із загальної кількості 238 минулого року.

Цього року платформа планує внести деякі зміни до способу обробки повідомлень та апеляцій, які, за її словами, “впорядкують спілкування з користувачами”, наприклад, надавати користувачам інформацію про дії, вжиті щодо контенту, про який вони повідомили, а в подальшому – дозволити користувачам оскаржувати прийняті рішення про видалення безпосередньо в додатку. У 2024 році модератори видалили 66 308 акаунтів, а автоматизовані системи видалили 35 842 профілі спаму та ботів. “Забігаючи наперед на 2025 рік, ми інвестуємо в потужніші системи проактивного виявлення на додаток до звітів користувачів, оскільки зростаюча мережа потребує кількох методів виявлення для швидкого виявлення та усунення шкідливого контенту”, – каже Bluesky.