У четвер компанія Meta оголосила, що починає впроваджувати більш досконалі системи штучного інтелекту для контролю за контентом, оскільки планує скоротити співпрацю зі сторонніми постачальниками. Завдання, пов’язані з контролем за контентом, включають виявлення та видалення матеріалів про тероризм, експлуатацію дітей, наркотики, шахрайство та афери.
Компанія заявляє, що розгорне ці вдосконалені системи штучного інтелекту у своїх додатках, щойно вони почнуть стабільно демонструвати кращі результати, ніж нинішні методи контролю за контентом. Водночас компанія зменшить свою залежність від сторонніх постачальників у сфері контролю за контентом.
«Хоча у нас і надалі будуть люди, які перевірятимуть контент, ці системи зможуть виконувати роботу, яка краще підходить для технологій, наприклад, повторювані перевірки графічного контенту або сфери, де зловмисники постійно змінюють свою тактику, як-от продаж незаконних наркотиків чи шахрайство», — пояснила Meta у дописі в блозі.
Meta вважає, що ці системи штучного інтелекту можуть виявляти більше порушень з більшою точністю, ефективніше запобігати шахрайству, швидше реагувати на події в реальному світі та зменшити надмірний контроль.
Компанія заявляє, що попередні тести систем штучного інтелекту були багатообіцяючими, оскільки вони можуть виявляти вдвічі більше контенту з сексуальними пропозиціями для дорослих, ніж її команди з перевірки, одночасно зменшуючи рівень помилок на понад 60%. Також зазначається, що системи можуть виявляти та запобігати більшій кількості фейкових акаунтів, пов’язаних із знаменитостями та іншими відомими особами, а також допомагати запобігати захопленню акаунтів, виявляючи такі сигнали, як входи з нових локацій, зміни паролів або редагування профілю.
Крім того, Meta зазначає, що системи можуть виявляти та запобігати близько 5 000 спроб шахрайства на день, під час яких шахраї намагаються обдурити людей, щоб ті розкрили свої дані для входу.
«Експерти будуть розробляти, навчати, контролювати та оцінювати наші системи штучного інтелекту, вимірюючи їхню ефективність і приймаючи найскладніші рішення, що мають значний вплив», — написала Meta у своєму блозі. «Наприклад, люди й надалі відіграватимуть ключову роль у прийнятті рішень з найвищим рівнем ризику та найважливіших рішень, таких як оскарження блокування облікових записів або повідомлення правоохоронним органам».
Цей крок зроблено на тлі того, що протягом останнього року компанія Meta поступово пом’якшувала свої правила модерації контенту, зокрема після того, як Дональд Трамп вдруге обійняв посаду президента. Минулого року компанія припинила дію своєї програми перевірки фактів силами сторонніх організацій, віддавши перевагу моделі «Community Notes», подібній до тієї, що використовується в X. Вона також скасувала обмеження щодо «тем, які є частиною загальноприйнятого дискурсу», і заявила, що користувачів заохочуватимуть до «персоналізованого» підходу до політичного контенту.
Це також відбувається на тлі того, що Meta та інші великі технологічні компанії наразі стикаються з кількома судовими позовами, які мають на меті притягнути гігантів соціальних медіа до відповідальності за заподіяння шкоди дітям та молодим користувачам.
Meta також оголосила у четвер, що запускає помічника підтримки Meta AI, який надасть користувачам доступ до цілодобової підтримки. Помічник впроваджується по всьому світу в додатках Facebook та Instagram для iOS та Android, а також у Центрі допомоги на Facebook та Instagram на настільних комп’ютерах.
