Хакер зламав ChatGPT за допомогою Claude, отримавши $6500

Незалежні дослідники безпеки з компанії Hacktron AI успішно зламали обліковий запис співробітника OpenAI, використовуючи інструмент Anthropic Claude. Це дозволило їм отримати доступ до документації приватного коду компанії.

Злом через вразливість стороннього сервісу

Інцидент стався 23 липня. Дослідники виявили вразливість у способі, яким сторонній сервіс Discourse, що використовується для хостингу форумів OpenAI, обробляв певні файли зображень. Вони скористалися спеціальною версією Claude Opus 4.8, яка надається фахівцям з кібербезпеки, щоб написати код для експлуатації цієї вразливості.

Після оновлення Claude Opus 5, система знайшла спосіб обійти захист. Вразливість, позначена як CVE-2026-45788, дозволяла зловмисникам отримати доступ до захищеного контенту через URL, не вимагаючи автентифікації. Компанія Discourse повідомила про виправлення цієї проблеми 25 липня.

Несподіваний доступ до ChatGPT та GitHub

Атака дозволила дослідникам отримати токени доступу до сервера Discourse, де розміщувався форум OpenAI. На їхній подив, ці токени виявилися дійсними і для ChatGPT, включаючи облікові записи співробітників OpenAI. Крім того, токени надавали доступ до сервісу GitHub компанії.

Дослідники отримали можливість читати файли у системі під назвою “Monorepo”. Хоча вони не стали заглиблюватися в чутливі дані, вони зазначили, що “Monorepo” є великим сховищем програмного забезпечення OpenAI, яке містить їхні алгоритмічні секрети, що роблять моделі швидшими та ефективнішими, але не включають самі вагові коефіцієнти моделей.

Як доказ свого доступу, дослідники залишили “запит на злиття” (pull request) до файлу документації в “Monorepo”, додавши текст “Hacktron AI Team PoC” та посилання на профілі своїх співробітників у X. Ця пропозиція не була прийнята.

Наслідки та винагорода

OpenAI підтвердила, що в результаті перевірки GitHub було виявлено “обмежене читання” метаданих приватних репозиторіїв та змін коду. Компанія вже вирішила обидві виявлені проблеми: одну в сторонньому сервісі Discourse, а іншу – у власній системі.

“Ми вдячні дослідникам за зв’язок та надання інформації про їхні знахідки. Ми обмежили права доступу до токенів спільноти та відкликали всі скомпрометовані токени та сесії”, – заявили представники OpenAI.

За цю знахідку OpenAI виплатила команді Hacktron AI винагороду у розмірі 6500 доларів США, що на той час становило приблизно 43 692 гривні. Команда брала участь у програмі OpenAI з виявлення вразливостей.

Занепокоєння щодо AI безпеки

Головний технічний директор Hacktron AI, Мохан Педхапаті, висловив занепокоєння, що подібні атаки можуть дати можливість державним кіберзлочинцям отримати доступ до американських AI-секретів. “Я не думаю, що ми розумніші за інших супротивників. Ми просто троє людей, які мають підписки на Claude і Codex”, – зазначив він.

CEO OpenAI, Сем Альтман, разом з іншими лідерами галузі, 13 вересня закликав до паузи у розробці AI, посилаючись на надто швидкий прогрес, який може становити небезпеку для людства. У відповідь на нещодавні інциденти, OpenAI виділила близько 25% своїх інженерів з виробничих проєктів для посилення безпеки та архітектури.

Експерти з безпеки, такі як Джошуа Сакс із Abundant Security, підкреслюють зростаючу складність захисту корпоративних секретів в епоху AI. “У всьому програмному забезпеченні є помилки безпеки. Ми ще не знайшли їх усі, тому що до минулого року було лише кілька тисяч експертів з пошуку вразливостей. AI надає цю можливість тепер звичайним людям”, – зазначив він.

Компанія ThreatDown повідомляє, що зловмисники вже користуються цими можливостями, купуючи нелегальний доступ до подібних інструментів в інтернеті за ціною від 800 доларів США.

Джерело: https://www.ithome.com/1/004/068.htm