Google Messages попереджатиме про чутливий контент

Google Messages почав впроваджувати попередження щодо чутливого контенту, який містить зображення оголеної натури, після того, як вперше представив цю функцію наприкінці минулого року. Нова функція виконуватиме дві ключові дії, якщо система на основі штучного інтелекту виявить повідомлення, що містить зображення оголеної натури: вона розмиє будь-яке з цих фото і спровокує попередження, якщо ваша дитина спробує відкрити, надіслати або переслати їх. Нарешті, вона надасть вам і вашій дитині ресурси для отримання допомоги. Все виявлення відбувається на пристрої, щоб гарантувати, що зображення та дані залишаються приватними.

Попередження про чутливий вміст за замовчуванням увімкнені для користувачів під наглядом і зареєстрованих підлітків без нагляду, зазначає компанія. Батьки контролюють цю функцію для користувачів під наглядом через додаток Family Link, але підлітки у віці від 13 до 17 років без нагляду можуть вимкнути її в налаштуваннях Google Messages. Для всіх інших ця функція вимкнена за замовчуванням.

Якщо попередження про чутливий контент увімкнено, зображення розмиваються, і відкривається підказка “лежачий поліцейський”, яка дозволяє користувачеві заблокувати відправника, одночасно пропонуючи посилання на сторінку ресурсу, де детально описано, чому оголена натура може бути шкідливою. Далі програма запитує користувача, чи він все ще хоче відкрити повідомлення, пропонуючи варіанти “Ні, не переглядати” і “Так, переглянути”. Якщо робиться спроба надіслати зображення, програма пропонує аналогічні варіанти. Таким чином, вона не повністю блокує дітей від надсилання фотографій оголеної натури, а лише надає попередження.

Функція працює на основі системи SafetyCore від Google, яка дозволяє класифікувати контент на пристрої за допомогою штучного інтелекту, не надсилаючи “дані, що дозволяють ідентифікувати особу, або будь-який класифікований контент чи результати на сервери Google”, як повідомляє компанія. Ця функція тільки почала з’являтися на пристроях Android і ще не є широко доступною, пише 9to5Google.