Інструмент Google для виявлення контенту, створеного ШІ

Google нарешті робить свій інструмент для створення водяних знаків зі штучним інтелектом SynthID Text доступним для всіх. Раніше він був доступний лише обмеженому колу користувачів, а тепер – усім. Технологічний гігант пояснив, що ця ініціатива допоможе компаніям і організаціям ідентифікувати контент, створений штучним інтелектом.

У X (раніше Twitter) Google оголосив про нову ініціативу зробити SynthID Text безкоштовним для всіх.

SynthID Text доступний для всіх

24 жовтня “Ми відкриваємо наш інструмент для нанесення водяних знаків SynthID Text. Доступний у вільному доступі для розробників і компаній, він допоможе їм ідентифікувати їхній контент, створений штучним інтелектом”, – написала компанія Google у своєму пості на X. Але що таке SynthID Text і яке значення він має? SynthID Text – це інструмент, який може допомогти вам ідентифікувати будь-яку форму контенту, створеного штучним інтелектом. Більше того, SynthID Text має технологію, яка дозволяє розробникам ставити водяні знаки та виявляти текст, написаний генеративними моделями ШІ.

Як отримати інструмент? Наразі SynthID Text можна завантажити з ШІ-платформи Hugging Face. Ви також можете отримати його з оновленого набору інструментів Responsible GenAI Toolkit від Google. Крім того, Google повідомив, що SynthID Text інтегрований з моделями Gemini і може надавати вам послуги найвищої якості. Інструмент водяних знаків також працює, навіть якщо згенерований штучним інтелектом текст було змінено або перефразовано. Наприклад, ви отримуєте контент із глибоко підробленим відео вашої улюбленої зірки, яка рекламує якийсь продукт. Іноді такі відео використовують для шахрайських дій, таких як відмивання грошей, фішинг електронної пошти тощо. Для того, щоб зупинити такі дії, SynthID Text покаже вам, що відео створено за допомогою штучного інтелекту.

Однак, як зазначають у компанії, інструмент має певні обмеження. SynthID Text не може добре працювати з коротким текстом. Крім того, якщо будь-який текст, створений штучним інтелектом, написаний шляхом перекладу з інших мов, він не зможе його ідентифікувати. Наприклад, якщо хтось перекладає контент з хінді на бенгальську за допомогою ШІ, то інструмент не зможе його ідентифікувати.

Що це означає для вас

Зі збільшенням кількості шахрайств з використанням штучного інтелекту багато організацій вживають заходів, щоб зупинити їх. Google – не єдина компанія, яка створила систему водяних знаків для ідентифікації контенту, згенерованого АІ. OpenAI також працювала над такими інструментами протягом багатьох років. Однак, інструменти так і не були запущені через низку технічних збоїв та внутрішніх проблем.

Коли справа доходить до впровадження таких розвинених інструментів, Індія, схоже, все ще перебуває на стадії зародження. З іншого боку, інші країни, такі як Китай, вже запровадили обов’язкове маркування контенту, створеного штучним інтелектом, водяними знаками.