У компанії Meta стався збій у роботі штучного інтелекту, в результаті чого конфіденційні дані компанії та користувачів стали доступними для співробітників, які не мали на це дозволу.
Згідно зі звітом про інцидент, з яким ознайомилося видання The Information, співробітник Meta опублікував на внутрішньому форумі запит про допомогу з технічним питанням — що є стандартною процедурою. Однак інший інженер попросив штучний інтелект допомогти проаналізувати це питання, і агент опублікував відповідь, не запитавши у інженера дозволу на її поширення. Meta підтвердила цей інцидент виданню The Information.
Як з’ясувалося, агент штучного інтелекту дав неправильну пораду. Співробітник, який поставив запитання, в результаті вчинив дії на основі вказівок агента, що ненавмисно зробило величезні обсяги даних про компанію та користувачів доступними для інженерів, які не мали дозволу на доступ до них, протягом двох годин.
Meta класифікувала цей інцидент як «Sev 1», що є другим за рівнем серйозності в внутрішній системі компанії для оцінки проблем безпеки.
Неконтрольовані агенти ШІ вже створювали проблеми в Meta. Саммер Юе, директорка з безпеки та узгодження в Meta Superintelligence, минулого місяця опублікувала допис на X, в якому описала, як її агент OpenClaw в результаті видалив усю її папку «Вхідні», хоча вона наказала йому узгоджувати з нею будь-які дії перед їх виконанням.
Проте Meta, здається, оптимістично оцінює потенціал агентного ШІ. Тільки минулого тижня Meta придбала Moltbook, соціальну мережу, схожу на Reddit, для спілкування агентів OpenClaw між собою.
