Компанія Anthropic розпочала тестування «автоматичного режиму» в додатку Claude Code. Компанія описує цю нову функцію як компромісний варіант між стандартною поведінкою додатка, за якої Claude запитує дозвіл на кожне збереження файлу та виконання команди bash, та командою «dangerously-skip-premissions», яку деякі програмісти використовують, щоб чат-бот працював більш автономно.
Коли автоматичний режим увімкнено, система класифікації керує Claude, надаючи йому дозвіл виконувати дії, які вона вважає безпечними, та перенаправляючи чат-бота на інший підхід, коли визначає, що Claude може зробити щось ризиковане. При розробці системи метою Anthropic було зменшити ймовірність того, що Claude здійснить масове видалення файлів, витягне конфіденційні дані або виконає шкідливий код.
Звичайно, жодна система не є досконалою, і Anthropic попереджає про це. «Класифікатор все ще може дозволити деякі ризиковані дії: наприклад, якщо наміри користувача є неоднозначними або якщо Claude не має достатнього контексту щодо вашого середовища, щоб зрозуміти, що дія може створити додатковий ризик», — пише компанія.
Компанія Anthropic не згадує конкретний випадок, який надихнув її на створення авторежиму, але, ймовірно, на першому плані у неї був нещодавній 13-годинний збій у роботі AWS, який стався в Amazon після того, як, за повідомленнями, один із інструментів штучного інтелекту компанії видалив хостингове середовище. Amazon пояснила цей конкретний випадок людською помилкою, зазначивши, що співробітник, причетний до інциденту, мав «ширші права доступу, ніж передбачалося».
Користувачі тарифного плану Team можуть ознайомитися з авторежимом вже сьогодні, а для користувачів тарифних планів Enterprise та API ця функція буде доступна найближчими днями.
