ChatGPT допомагає визначити місцезнаходження по фотографії

З’явилася дещо тривожна нова тенденція, яка стає вірусною: Люди використовують ChatGPT, щоб визначити місцезнаходження зображених на фотографіях.

Цього тижня OpenAI випустила свої найновіші моделі штучного інтелекту, o3 та o4-mini, кожна з яких може унікально “міркувати” над завантаженими зображеннями. На практиці моделі можуть обрізати, обертати та збільшувати фотографії, навіть розмиті та спотворені, щоб ретельно їх проаналізувати.

Ці можливості аналізу зображень у поєднанні зі здатністю моделей здійснювати пошук в Інтернеті створюють потужний інструмент для визначення місцезнаходження. Користувачі на X швидко виявили, що o3, зокрема, досить добре визначає міста, пам’ятки і навіть ресторани та бари за ледь помітними візуальними підказками.

У багатьох випадках моделі не спираються на “спогади” про минулі розмови в ChatGPT або EXIF-дані – метадані, що додаються до фотографій, які розкривають такі деталі, як місце, де було зроблено фото.

X наповнений прикладами того, як користувачі надають ChatGPT меню ресторанів, знімки району, фасадів і автопортрети, а також інструкції o3 уявити, що він грає в “GeoGuessr” – онлайн-гру, в якій гравцям пропонується вгадувати місце розташування за зображеннями Google Street View.

Це очевидна потенційна проблема конфіденційності. Ніщо не заважає зловмиснику зробити скріншот, скажімо, чиєїсь Instagram-сторінки та використати ChatGPT, щоб спробувати доксі-атаку.

Звичайно, це можна було зробити ще до запуску o3 і o4-mini. TechCrunch пропустив кілька фотографій через o3 і старішу модель без можливості розпізнавання зображень, GPT-4o, щоб порівняти навички моделей у визначенні місцезнаходження. На диво, GPT-4o частіше давав таку ж правильну відповідь, як і o3, і займав менше часу.

Під час нашого короткого тестування був принаймні один випадок, коли o3 знайшов місце, де GPT-4o не зміг. Отримавши зображення фіолетової голови носорога в тьмяно освітленому барі, o3 правильно відповів, що це зображення зі спікізі у Вільямсбурзі, а не з британського пабу, як здогадався GPT-4o.

Це не означає, що o3 бездоганний у цьому відношенні. Кілька наших тестів зазнали невдачі – o3 застряг у петлі, не зміг отримати відповідь, в якій був достатньо впевнений, або запропонував неправильне місцезнаходження. Користувачі на X також відзначили, що o3 може досить сильно помилятися у своїх висновках про місцезнаходження.

Але ця тенденція ілюструє деякі ризики, що виникають у зв’язку з появою більш потужних, так званих “мислячих” моделей ШІ. Схоже, в ChatGPT існує мало запобіжних заходів для запобігання такого роду “зворотному пошуку місцезнаходження”, і OpenAI, компанія, що стоїть за ChatGPT, не розглядає цю проблему у своєму звіті про безпеку для o3 і o4-mini.