В рамках нещодавнього партнерства з Mozilla в галузі безпеки компанія Anthropic виявила 22 окремі вразливості в Firefox, 14 з яких класифіковано як «високої небезпечності». Більшість помилок було виправлено в Firefox 148 (версія, випущена в лютому цього року), хоча деякі виправлення доведеться чекати до наступного випуску.
Команда Anthropic використовувала Claude Opus 4.6 протягом двох тижнів, починаючи з JavaScript-движка, а потім розширюючи пошук на інші частини кодової бази. Згідно з публікацією, команда зосередилася на Firefox, оскільки «це і складна кодова база, і один з найбільш перевірених і безпечних проектів з відкритим кодом у світі».
Примітно, що Claude Opus був набагато кращим у пошуку вразливостей, ніж у написанні програмного забезпечення для їх використання. Команда витратила 4000 доларів на API-кредити, намагаючись створити експлойти для підтвердження концепції, але досягла успіху лише у двох випадках.
Тим не менш, це нагадування про те, наскільки потужними можуть бути інструменти штучного інтелекту для проектів з відкритим кодом — навіть якщо вони приносять потік поганих запитів на злиття поряд з корисними.
