Безопасность
Системы ИИ преодолели все автономные эталоны кибербезопасности, предупреждает Британский институт безопасности
Новая оценка, проведённая Институтом безопасности ИИ в Великобритании, показала, что передовые модели ИИ теперь могут самостоятельно проводить многоэтапные атаки на корпоративные сети, что знаменует собой рубеж, который исследователи безопасности надеялись увидеть лишь через несколько лет.
Эльвин С ·
Передовые модели ИИ пересекли порог, который исследователи кибербезопасности надеялись увидеть лишь через несколько лет: способность автономно проводить многоэтапные атаки на корпоративные сети без человеческого руководства. Новая оценка, проведённая Британским институтом безопасности ИИ и опубликованная в четверг, показывает, что как Claude Mythos, так и GPT-5.5 Instant могут выявлять уязвимости, разрабатывать эксплойты, обходить системы аутентификации и перемещаться по корпоративным сетям в контролируемых тестовых средах, завершая цепочки атак, которые ранее требовали опытных человеческих операторов.
Что показала оценка
Оценка UKASI проверяла обе модели в условиях специально созданной корпоративной сети, предназначенной для имитации структуры безопасности среднего предприятия. Окружение включало стандартное корпоративное программное обеспечение, реалистичное сегментирование сети и инструменты мониторинга безопасности. Обе модели получили только описание целевой среды и общую задачу; им не предоставлялась информация о конкретных уязвимостях или инструментах для атак.
Claude Mythos завершил полный цепочный аттакующий процесс в 73% тестовых запусков, успешно извлекая смоделированные конфиденциальные данные из целевой среды. GPT-5.5 Instant достиг уровня успеха в 61%. Оба модели продемонстрировали способность адаптировать свой подход, когда начальные векторы атаки были заблокированы, что отличает их от автоматизированных инструментов атаки, которые следуют фиксированным планам. Модели также показали способность избегать срабатывания систем мониторинга безопасности, регулируя свою активность так, чтобы она сливалась с нормальным сетевым трафиком.
Мы отслеживаем возможности ИИ относительно нашего набора эталонов в течение 18 месяцев. Темпы улучшений за последние шесть месяцев были не похожи ни на что, что мы наблюдали ранее. Эти системы теперь работают на уровне, который мы ожидали увидеть не раньше 2028 года.
Доктор Сара Чен, ведущий исследователь, Команда кибероценки Института безопасности ИИ Великобритании
Последствия для корпоративной безопасности
Практические последствия для корпоративной безопасности значительны. Стоимость и уровень экспертизы, необходимые для проведения сложных сетевых вторжений, исторически ограничивали частоту и масштаб атак. Системы ИИ, способные автономно проводить такие атаки, существенно снижают этот барьер, потенциально позволяя гораздо большему числу злоумышленников осуществлять атаки, которые ранее требовали ресурсов государственных структур или высокоспециализированных преступных организаций.
Исследователи в области безопасности предупреждали об этом пороге в течение многих лет, но скорость, с которой он был преодолен, застала многих в отрасли врасплох. Оценка UKASI проводилась с использованием общедоступных версий моделей; в отчете отмечается, что возможности моделей, доступных через частные или ограниченные каналы доступа, могут быть более развитыми.
Оборонительный ответ
Те же возможности ИИ, которые позволяют осуществлять автономные атаки, также обеспечивают более сложные инструменты защиты. Несколько компаний в области кибербезопасности уже внедрили системы ИИ, которые могут отслеживать поведение сети, выявлять аномалии и реагировать на угрозы быстрее, чем команды по безопасности человека. Вопрос в том, смогут ли защитные возможности идти в ногу с наступательными, и достаточно ли широко развернутый защитный ИИ, чтобы обеспечивать значимую защиту.
Оценка UKASI рекомендует организациям пересмотреть сегментацию своих сетей, внедрить архитектуры с нулевым доверием и обеспечить, чтобы системы мониторинга безопасности могли обнаруживать поведенческие шаблоны, связанные с атаками с использованием ИИ. Она также призывает разработчиков ИИ внедрять дополнительные меры защиты от использования их моделей для наступательных киберопераций, а правительства — обновлять свои рамки по киберпреступности для противодействия атакам с использованием ИИ.
Реализуйте архитектуру сети с нулевым доверием, чтобы ограничить боковое перемещение | Разверните систему мониторинга безопасности с поддержкой ИИ, способную выявлять медленно развивающиеся атаки | Проводите регулярные учения красной команды с использованием инструментов имитации атак на базе ИИ | Пересмотрите и обновите планы реагирования на инциденты с учетом временных рамок атак на скорости ИИ | Обеспечьте обучение команд по безопасности для распознавания сигнатур атак с поддержкой ИИ
Оценка UKASI является наиболее авторитетной публичной документацией по автономным кибервозможностям ИИ на сегодняшний день, но вряд ли она будет последней. Возможности, описанные в отчёте, будут продолжать улучшаться, и разрыв между тем, что системы ИИ могут делать в контролируемых тестовых условиях, и тем, что они могут делать в реальных развертываниях, сокращается. Окно для подготовки организаций к защите открыто, но оно не останется открытым бесконечно.