Компанія Roblox представила функцію переформулювання чату в режимі реального часу на основі штучного інтелекту, яка автоматично замінює заборонені слова більш ввічливими, про що компанія оголосила в четвер.
Нова функція виходить за межі поточного текстового фільтра Roblox, який просто замінює заборонені слова та фрази символом «#». Але Roblox зазначає, що коли користувачі натрапляють на рядки «####», розмови можуть бути перервані і їх важко стежити.
Тепер замість простого відображення символів «#» відфільтрований текст буде перефразований на більш ввічливу мову, яка наближена до початкового задуму користувача.
Наприклад, повідомлення «Hurry TF up!» раніше відображалося як «####», але тепер буде перефразоване на «Hurry up!». Всі учасники чату отримують повідомлення про те, що повідомлення було перефразувано, щоб зберегти ввічливість розмови, зазначає Roblox.
«Чат відіграє центральну роль у тому, як люди спілкуються, координують свої дії та грають на Roblox», — зазначив Раджив Бхатія, віцепрезидент з питань користувачів та продуктів Discovery у Roblox, у пресрелізі. «Переформулювання в режимі реального часу допомагає підтримувати ігровий процес і розмови в належному руслі, одночасно направляючи мову в бік того, що є доречним. Такий підхід зменшує конфлікти в чаті, зберігаючи стандарти, які допомагають підтримувати ввічливість у нашій спільноті».
Roblox зазначає, що хоча переформулювання зменшує деякі порушення в чаті, система безпеки залишається чинною для більш серйозних випадків поведінки.
Нова функція підтримується всіма мовами, які наразі доступні через інструменти автоматичного перекладу Roblox.
Компанія також модернізує систему фільтрації тексту, щоб виявляти більше варіантів забороненої лексики. Roblox заявляє, що перші результати показують, що система стає кращою у виявленні леетспіку та більш витончених спроб обійти фільтри. Це дозволило компанії у 20 разів зменшити кількість помилкових негативних результатів під час обміну або запиту особистої інформації.
Оголошення в четвер з’явилося незабаром після того, як Roblox запровадила обов’язкову перевірку обличчя для доступу до чатів на своїй платформі після хвилі судових позовів щодо безпеки дітей від генеральних прокурорів Техасу, Кентуккі та Луїзіани, серед інших. Позови були подані у відповідь на повідомлення про те, що Roblox наражала молодих користувачів на небезпечні ризики, такі як грумінг та відвертий контент.
