Безопасность
Хакеры использовали ИИ для создания первой в истории известной уязвимости нулевого дня в действии
Группа угроз Google (Google's Threat Intelligence Group) обнаружила киберпреступную операцию, которая использовала модель ИИ для выявления и использования нулевого дня уязвимости в популярном инструменте веб-администрирования, что стало первым подтвержденным случаем использования ИИ для создания рабочего эксплойта в реальной атаке.
Патрик Т ·
На протяжении многих лет исследователи в области безопасности предупреждали, что ИИ в конечном итоге будет использован против систем, которые он был создан для защиты. В понедельник Google подтвердила, что этот день наступил. Группа компании по анализу угроз (GTIG) сообщила, что выявила операцию киберпреступников, использующую эксплойт, сгенерированный ИИ, чтобы обойти двухфакторную аутентификацию в популярном инструменте для веб-администрирования с открытым исходным кодом — первый подтвержденный случай использования ИИ для обнаружения и превращения уязвимости нулевого дня в оружие в реальной атаке.
Эксплойт, встроенный в скрипт на Python, нацеливался на высокоуровневую логическую семантическую ошибку в процессе аутентификации инструмента. Для эксплуатации уязвимости требовались действительные учетные данные пользователя, но как только они были получены, злоумышленники могли полностью обходить двухфакторную аутентификацию. Google сотрудничала с пострадавшим поставщиком для исправления ошибки до того, как публично раскрыла кампанию.
Следы LLM
Анализ кода эксплойта, проведенный GTIG, выявил несколько признаков, характерных для вывода большой языковой модели. Скрипт содержал обширные образовательные docstring, вымышленный оценочный балл CVSS и структурированный, учебный питоновский формат — всё это соответствует коду, сгенерированному LLM, обученной на публичных репозиториях и документации по безопасности.
"Скрипт содержит множество образовательных docstring, включая вымышленный балл CVSS, и использует структурированный, учебный питоновский формат, что очень характерно для данных, на которых обучались LLM," — написали в отчёте GTIG. Группа высоко оценила вероятность того, что AI-модель была использована как для обнаружения уязвимости, так и для создания рабочего эксплойта, однако не было найдено доказательств участия собственной модели Google Gemini.
Искусственный интеллект уже ускоряет обнаружение уязвимостей, снижая усилия, необходимые для их идентификации, проверки и использования. Это нынешняя реальность: обнаружение, использование и эксплуатация происходят быстрее.
Райан Дьюхерст, руководитель отдела разведки угроз watchTowr
Более широкий паттерн атак с использованием искусственного интеллекта
Обнаружение нулевого дня не является изолированным инцидентом. В отчете Google задокументирована более широкая тенденция использования государства и криминальными угрозными актерами ИИ для ускорения наступательных операций. Группа APT45 из Северной Кореи отправляла тысячи повторяющихся запросов в Gemini для рекурсивного анализа CVE и проверки эксплойтов proof-of-concept. Группа UNC2814, связанная с Китаем, использовала взлом по идентичности для проведения исследований уязвимостей встроенного ПО устройств. Акторы, связанные с Россией, развернули вредоносное ПО на базе ИИ, которое использует сгенерированный LLM фальшивый код для сокрытия вредоносной функциональности.
Google также опубликовала подробности о PromptSpy, вредоносном ПО для Android, которое использует Gemini для анализа текущего экрана и предоставления инструкций по закреплению вредоносного приложения в списке недавно использованных приложений. Вредоносное ПО может захватывать биометрические данные, предотвращать удаление, накладывая на кнопку удаления невидимый блокирующий касание слой, и динамически обновлять свою инфраструктуру командования и управления, чтобы избежать обнаружения.
Проблема сжатой временной шкалы
Наиболее тревожным следствием раскрытия информации Google является не сложность какой-либо отдельной атаки, а скорость, с которой развивается ландшафт угроз. Исследователи по безопасности отслеживали метрику времени до эксплуатации — разрыв между обнаружением уязвимости и её использованием — который сократился с среднего показателя 700 дней в 2020 году до всего 44 дней в 2025 году. Искусственный интеллект ещё больше сжимает этот временной интервал.
Для защитников расчёты меняются. Циклы исправлений, которые ранее давали недели на буфер безопасности, теперь дают дни. Триаж уязвимостей, который требовал участия старших специалистов по безопасности, всё чаще может быть автоматизирован злоумышленниками с использованием тех же больших языковых моделей (LLM), которые защитники применяют для обзора кода. Асимметрия, которая всегда была в пользу атакующих — которым нужно найти лишь одну уязвимость, в то время как защитники должны защищать всё — усиливается благодаря искусственному интеллекту.
Разоблачение Google является лишь одним из множества данных, а не аномалией. Сообщество специалистов по безопасности ожидало этого развития событий многие годы. Сейчас вопрос заключается в том, сможет ли защитное использование ИИ поспевать за наступательным использованием, и достаточно ли быстро действуют институты, отвечающие за политику в области кибербезопасности, чтобы реагировать.