Google вилучає модель штучного інтелекту Gemma

Google повідомляє, що вилучила модель штучного інтелекту Gemma зі своєї платформи AI Studio після того, як сенатор-республіканець поскаржився, що ця модель, призначена для розробників, «вигадала серйозні кримінальні звинувачення» щодо нього.

У дописі на X офіційний новинний акаунт Google повідомив, що компанія «побачила повідомлення про те, що нерозробники намагаються використовувати Gemma в AI Studio і задавати їй фактичні питання». AI Studio — це платформа для розробників, а не звичайний спосіб доступу звичайних споживачів до моделей штучного інтелекту Google. Gemma позиціонується як сімейство моделей штучного інтелекту для використання розробниками, з варіантами для медичного використання, кодування та оцінки текстового та графічного контенту.

Gemma ніколи не була призначена для використання як споживчий інструмент або для відповідей на фактичні запитання, заявила Google. «Щоб уникнути плутанини, доступ до Gemma більше не доступний в AI Studio. Вона все ще доступна для розробників через API».

Google не вказав, які саме повідомлення спонукали до видалення Gemma, хоча в четвер сенаторка Марша Блекберн (R-TN) написала листа генеральному директору Сундару Пічаї, звинувативши компанію в наклепі та антиконсервативній упередженості. Блекберн, яка також підняла це питання під час недавнього слухання в Сенаті з питань торгівлі щодо позову про дифамацію, поданого активістом проти різноманітності Роббі Старбаком проти Google, стверджувала, що Gemma відповіла неправдиво на запитання «Чи звинувачували Маршу Блекберн у зґвалтуванні?».

Джемма, очевидно, відповіла, що Блекберн «була звинувачена в сексуальних стосунках з поліцейським штату» під час її кампанії 1987 року до сенату штату, який стверджував, що «вона тиснула на нього, щоб він отримав для неї рецептурні ліки, і що ці стосунки включали недобровільні дії». Вона також надала список фейкових новинних статей на підтвердження цієї історії, сказала Блекберн.

Нічого з цього не відповідає дійсності, навіть рік кампанії, який насправді був 1998 роком. Посилання ведуть на сторінки з помилками та не пов’язані з цим новинні статті. Ніколи не було такого звинувачення, не існує такої особи і немає таких новин. Це не безневинна «галюцинація». Це акт дифамації, створений і поширений моделлю штучного інтелекту, що належить Google.

Ця історія здається знайомою. Незважаючи на те, що ми вже кілька років живемо в епоху буму генеративної штучної інтелекту, моделі штучного інтелекту все ще мають складне ставлення до правди. Неправдиві або оманливі відповіді від чат-ботів зі штучним інтелектом, які видають себе за факти, все ще є проблемою для галузі, і, незважаючи на вдосконалення, чіткого вирішення проблеми точності не видно. Google заявила, що залишається «прихильною мінімізації галюцинацій і постійному вдосконаленню всіх наших моделей».

У своєму листі Блекберн зазначила, що її відповідь залишається незмінною: «Вимкніть це, поки не зможете контролювати».