Нещодавнє розслідування, проведене онлайн-організацією Tech Transparency Project (TTP), виявило, що в Apple App Store та Google Play Store поширені так звані «nudify»-додатки. Це програми на базі штучного інтелекту, які створюють зображення сексуального характеру без згоди моделей, що є явним порушенням політики обох компаній.
Загалом, розслідування виявило 55 додатків такого типу в Google Play Store і 47 в Apple App Store. Обидві платформи також досі пропонують доступ до Grok від xAI, який, ймовірно, є найвідомішим у світі розробником несанкціонованих дипфейків.
«Apple і Google повинні перевіряти додатки в своїх магазинах. Але вони пропонують десятки додатків, які можна використовувати для показу людей з мінімальним одягом або без нього, що робить їх придатними для зловживання», — сказала Мішель Куперсміт, виконавчий директор некомерційної організації, яка керує TTP.
Додатки, виявлені в звіті, були завантажені понад 700 мільйонів разів і принесли понад 117 мільйонів доларів доходу. Google і Apple отримують частину цих грошей.
Багато з додатків, згаданих у розслідуванні, оцінюються як придатні для підлітків і дітей. Наприклад, DreamFace оцінюється як придатний для дітей віком від 13 років у Google Play Store і від 9 років в Apple App Store.
Обидві компанії відреагували на розслідування. Apple заявляє, що видалила 24 додатки зі свого магазину, згідно з повідомленням CNBC. Однак це менше, ніж 47 додатків, виявлених дослідниками TTP. Представник Google заявив, що компанія призупинила роботу декількох додатків, згаданих у звіті, за порушення політики магазину, але відмовився повідомити, скільки додатків було видалено.
Цей звіт з’явився після того, як було виявлено, що Grok Ілона Маска генерує сексуалізовані зображення жінок і дітей. Загалом, чат-бот на базі штучного інтелекту за 11 днів згенерував близько трьох мільйонів сексуалізованих зображень, 22 000 з яких стосувалися дітей.
Представники компанії не надали жодної відповіді на ці звинувачення, окрім автоматичного листа журналістам із заголовком «Легасі медіа бреше». Маск також заявив, що «не знає про жодні зображення оголених неповнолітніх, створені Grok. Буквально жодного».
Акаунт X з питань безпеки опублікував повідомлення, що «будь-хто, хто використовує або спонукає Grok до створення незаконного контенту, понесе такі самі наслідки, як і в разі завантаження незаконного контенту». Grok виявився більш відвертим, ніж реальні співробітники компанії, оскільки чат-бот вибачився за створення сексуалізованих зображень неповнолітніх.
