Безопасность
Anthropic добавляет Mythos 5 в бета-версию сканирования уязвимостей Claude
Компания Anthropic предоставила бета-доступ к своей модели ИИ Claude с интегрированными возможностями Mythos 5 для сканирования уязвимостей безопасности, согласно отчету The New Stack. Инструмент направлен на выявление потенциальных ошибок в коде, однако результаты требуют воспроизводимых доказательств, оценки серьезности и проверки человеком перед внедрением.
Автор: Лео У ·
Согласно сообщению The New Stack, компания Anthropic интегрировала Mythos 5 в бета-программу на базе Claude, предназначенную для сканирования кодовых баз на наличие уязвимостей безопасности. Эта возможность представляет собой расширение роли Claude в цепочке инструментов безопасности для разработчиков, позволяя ИИ-модели выявлять потенциальные уязвимости наряду с традиционным статическим анализом и тестированием на проникновение. Однако компания подчеркнула, что результаты, сгенерированные сканером, требуют воспроизводимых доказательств, формальной оценки степени серьезности, выполнения в безопасных песочницах и проверки экспертами-человеками перед тем, как любые исправления или меры по устранению уязвимостей попадут в рабочие системы. Такой взвешенный подход к выпуску инструментов обеспечения безопасности с поддержкой ИИ отражает признание Anthropic того, что крупные языковые модели, несмотря на свои способности к пониманию кода, по-прежнему склонны генерировать звучащие правдоподобно, но неправильные выводы.
Этот шаг сигнализирует о целенаправленной стратегии Anthropic по внедрению Клода в рабочие процессы, ориентированные на безопасность, в момент, когда разработчики и команды по безопасности оценивают риски. Вместо того чтобы позиционировать модель как замену устоявшимся фреймворкам обнаружения уязвимостей, Anthropic представляет интеграцию Mythos 5 как дополнительный слой, который может выявлять классы ошибок, способные ускользнуть от традиционного сопоставления шаблонов. Бета-версия по-прежнему ограничена контролируемой группой участников, и компания Anthropic не раскрыла количество организаций или разработчиков, которые в настоящее время тестируют функцию, а также не опубликовала показатели производительности, сравнивающие точность обнаружения инструмента с отраслевыми стандартами. Находки, обнаруженные Claude, требуют от разработчиков предоставления доказательств возможности эксплуатации, подтверждений того, что дефект действительно проявляется в реальных условиях, а не является ложноположительным сигналом или архитектурной особенностью. Индекс новостей от 21 августа документирует материалы, лежащие в основе этого отчета.
Обработка данных и риски цепочки поставок
При развёртывании сканирования уязвимостей с поддержкой ИИ в крупном масштабе возникают несколько операционных проблем. Первая касается обработки данных: какие образцы кода, манифесты зависимостей или конфигурационные файлы модель получает для анализа и где эти данные хранятся? Anthropic публично не раскрывал политику хранения данных для участников бета-тестирования и не указал, используется ли код, просканированный через интеграцию с Mythos 5, для обучения или улучшения будущих версий Claude. Для предприятий, сканирующих собственный код, секреты в цепочке поставок, встроенные в репозитории, или инфраструктуру как код, содержащую конфиденциальные учетные данные, такая неопределённость представляет реальный риск. Рамочные рекомендации по безопасности, такие как принцип безопасного проектирования CISA, подчеркивают важность уточнения потоков данных до развертывания новых инструментов в чувствительных контекстах.
Второе напряжение касается ложных отрицательных результатов и неполного охвата. Модель ИИ, оптимизированная для понимания кода, может выявлять распространенные шаблоны уязвимостей, такие как SQL-инъекции, межсайтовый скриптинг и переполнение буфера, но пропускать новые или специфичные для конкретной области ошибки, которые зависят от понимания необычных архитектурных решений или неочевидного взаимодействия между компонентами. Команды по безопасности, полагающиеся на Mythos 5 в качестве основного уровня сканирования, рискуют развить ложное чувство уверенности в покрытии, которое может быть систематически неполным. Напротив, ложные срабатывания потребляют ресурсы сортировки. Если модель помечает большие объемы безвредных кодовых шаблонов как подозрительные, человеческие рецензенты сталкиваются с усталостью от предупреждений, и реальные риски могут быть понижены в приоритете. Операционный компромисс также отражается в Claude.
Третье опасение связано с разрешениями и изоляцией песочницы. Если процесс сканирования требует, чтобы модель выполняла код или имитировала пути выполнения для проверки подозреваемой ошибки, обеспечение того, чтобы выполнение происходило в криптографически изолированной среде, становится критически важным. Скомпрометированная песочница может позволить атакующему перейти из контекста сканирования в более широкую инфраструктуру. Бета-документация Anthropic публично не рассматривает используемую технологию песочницы, зону поражения в случае взлома песочницы или процедуры реагирования на инциденты, если есть подозрения, что сессия сканирования была перехвачена. Рамочная программа кибербезопасности NIST предоставляет установленные стандарты для таких контрольно-изоляционных мер, однако Anthropic не раскрыла соответствие этим стандартам в своей бета-версии. Для более широкого контекста, CISA безопасно по проекту описывает соответствующий стандарт или учреждение.
Воспроизводимость и Стандарт Доказательств
Акцент компании Anthropic на воспроизводимых доказательствах как предмете для того, чтобы считать результаты Mythos 5 применимыми, отражает лучшие практики в раскрытии уязвимостей, но также подчеркивает ограничение чисто AI-анализа. Модель ИИ может изложить правдоподобную цепочку логических рассуждений о том, как определенный шаблон кода может привести к компрометации, но до тех пор, пока человек или автоматизированный инструмент физически не воспроизведет ошибку в контролируемых условиях, результат остается спекулятивным. Это требование не является уникальным для сканирования с помощью ИИ. Коммерческие сканеры уязвимостей от таких поставщиков, как Rapid7, Qualys и Tenable, также генерируют результаты, которые требуют проверки перед применением патчей. Отличие заключается в профиле риска: детерминированный инструмент статического анализа, который помечает известный уязвимый вызов функции, имеет меньшую неопределенность, чем LLM, синтезирующая объяснение того, почему определенная конструкция кода может быть использована злоумышленником. Рамочная структура кибербезопасности NIST помогает разместить проблему в более широком контексте политики и инженерии.
Бета-программа остается на ранней стадии, и компания Anthropic не раскрывала сроки более широкого развертывания или интеграции в коммерческие предложения Claude. Организации, участвующие в бета-тестировании, фактически выступают как пользователями, так и партнерами по валидации, генерируя эмпирические данные, необходимые для повышения точности обнаружения модели и снижения уровня ложноположительных срабатываний. Как и с любым инструментом безопасности, внедрение будет зависеть от подтвержденной надежности и от уверенности команд по безопасности в том, что инструмент интегрируется без проблем в существующие платформы и рабочие процессы по управлению уязвимостями. Anthropic позиционировала интеграцию Mythos 5 как дополнение, а не как замену существующих инструментов сканирования, что признает зрелость и высокую конкурентность рынка сканирования уязвимостей. Чтобы эта функция получила распространение за пределами участников бета-тестирования, она должна демонстрировать производительность, которая оправдывает операционные затраты на внедрение нового слоя анализа на базе ИИ вместе с инструментами, которым команды уже доверяют. Последний момент можно проверить в соответствии с Топ-10 OWASP для приложений LLM.
Темы: безопасность, ИИ, сканирование уязвимостей, Claude, бета-тестирование