Технологии

Anthropic делает режим автокода Claude режимом по умолчанию, повышая стандарт безопасной автономности

Для платных пользователей Claude Code будет автоматически включать режим автокода по умолчанию, смещая практический вопрос с того, могут ли агенты действовать, на то, достаточно ли понятны их защитные механизмы, чтобы они могли действовать безопасно.

Патрик Т ·

Anthropic делает режим автокода Claude режимом по умолчанию, повышая стандарт безопасной автономности
MANTIS_

Компания Anthropic сообщает, что автоматический режим Claude Code станет режимом по умолчанию для учетных записей Pro, Max и Team с 14 августа — это продуктовое решение, которое на один шаг выводит агенты ИИ для программирования из-под постоянного контроля «клик за кликом». По словам компании, этот режим выполняет действия без запроса разрешения, если только действие не является необратимым, разрушительным или направленным за пределы среды пользователя.

Это изменение скорее связано не с новой моделью, а с новым операционным соглашением. Агенты для программирования полезны, когда они могут просматривать репозиторий, планировать работу, вносить изменения и проверять результат без необходимости одобрения всех второстепенных шагов разработчиком. Но каждая команда, удаляемая из этого потока, переносит больше ответственности на границы, окружающие агента: репозиторий, который он может видеть, учетные данные, которые он может использовать, и действия, которые остаются невозможными без участия человека.

Агентов для программирования начинают использовать в производстве, когда их права видны, узко ограничены и обратимы. Изображение: MANTIS_.
Агентов для программирования начинают использовать в производстве, когда их права видны, узко ограничены и обратимы. Изображение: MANTIS_.

Компания Anthropic заявила, что тесты с участием 1 053 платных пользователей показали, что автоматический режим выявлял 89% вредоносных действий, по сравнению с 13,6% при ручной проверке. Это наглядное сравнение, но оно не устраняет необходимости в проверках. Подсказка, которую люди одобряют из привычки, является слабым контролем; автоматический классификатор также может давать сбои, которые команда обнаружит только после того, как ему будут доверены полномочия.

Компания также указала на проверку на внедрение подсказок и настраиваемые строгие правила отказа. Эти функции важны, потому что программные проекты — это связанные системы. Ассистент для программирования может столкнуться с документацией, текстами задач, сторонними пакетами и выводом инструментов, которые он не создавал и которым не может безопасно доверять.

Для руководителей инженерных команд настоящим испытанием является не то, сохраняет ли автоматический режим несколько одобрений. Истинная проверка — может ли команда объяснить, что сделал агент, быстро его остановить и восстановиться, если он выбрал неправильный путь. Автономность по умолчанию станет заслуживающей доверия только тогда, когда эти ответы станут рутинными.

Темы: Anthropic, Claude Code, AI агенты