Безопасность
Малые кибер-модели Cisco приближают охоту на ошибки ИИ к исходному коду
Открытые модели Antares от Cisco нацелены на поиск ошибок в программном обеспечении, что добавляет усилий по внедрению компактных систем ИИ в процессы обеспечения безопасности, а не оставлять их только для крупных общих ассистентов.
Автор: Лео У ·
Cisco опубликовал с открытым исходным кодом две компактные модели для поиска багов, Antares-350M и Antares-1B, согласно Axios. Выпуск происходит в то время, когда команды по безопасности пытаются определить, где ИИ подходит в процессе обзора кода. Вопрос не в том, может ли модель дать умное объяснение уязвимости. Вопрос в том, может ли она помочь инженерам найти немногие проблемы, которые действительно стоит расследовать, не добавляя еще один поток шумных оповещений.
Малые модели выбраны намеренно. Обзор безопасности часто проводится многократно в разных репозиториях и pull request. Компактная система может работать дешевле, ее проще интегрировать с существующими инструментами и она более реалистична для команд, которые не могут отправлять каждое изменение кода в премиум-хостинг модели. Это не делает ее безопасной по умолчанию. Это делает операционные компромиссы более понятными.
Axios также сообщил, что Capital One недавно опубликовала с открытым исходным кодом VulnHunter, агентский инструмент, предназначенный для анализа исходного кода с точки зрения злоумышленника. Этот шаблон стоит отслеживать. Поставщики средств безопасности и крупные пользователи технологий начинают рассматривать проверку с поддержкой ИИ как проблему цепочки инструментов: модели, извлечение контекста, статический анализ, проверка и инженер-человек, который может решить, действительно ли найденная проблема существует.
Тест для инструментов разработчика прост. Полезная модель безопасности должна соответствовать рабочему процессу. Она должна указывать на путь кода, объяснять предполагаемое условие, предоставлять достаточно контекста, чтобы рецензент мог воспроизвести проблему, и избегать предложения исправления, которое создаёт другую проблему. Ассистент, который только пишет правдоподобное предупреждение, не выполняет дорогую часть работы.
NIST выступал за непрерывный мониторинг и обновление моделей для систем безопасности ИИ. Это актуально здесь, потому что код и зависимости не стоят на месте. Проверка модели может выявить закономерность сегодня и пропустить новое поведение библиотеки завтра. Командам понадобятся наборы для оценки, петли обратной связи и четкая ответственность за то, чтобы проверяющий ИИ оставался полезным после его первого внедрения.
Открытие исходного кода моделей изменяет положение в области безопасности в двух направлениях. Разработчики могут проверять, адаптировать и запускать их локально. Это может помочь командам со строгим контролем исходного кода. Также это означает, что исходный поставщик не может полагаться на размещённый слой доступа, чтобы ограничить каждое использование. Соответствующая мера защиты перемещается наружу к организации, которая интегрирует модель и решает, к чему она может получить доступ.
Выпуск Cisco будет иметь значение, если он поможет командам сократить разрыв между сигналом о уязвимости и подтверждённой инженерной задачей. Это узкая цель, но она правильная. Безопасность с помощью ИИ заслуживает доверия, когда сокращает время, потраченное на тупиковые направления, и предоставляет дежурному человеку лучшее место для начала.
Темы: Cisco, Antares, безопасность, открытый исходный код