Безопасность
Агентный вымогательский софт превращает киберриски ИИ из теории в рабочий процесс
Команды по обеспечению безопасности готовятся к программам-вымогателям, которые используют AI-агентов для автоматизации разведки, обнаружения прав доступа, подготовки данных, ведения переговоров и адаптации внутри корпоративных систем.
Автор: Лео У ·
Следующая проблема с вымогательским ПО это не только более быстрый фишинг или чище текст вредоносного ПО. Это возможность того, что атакующие используют AI-агенты его, чтобы превратить вторжение в управляемый рабочий процесс, который может искать, суммировать, адаптироваться и решать, что делать дальше в скомпрометированной среде.
Это изменение имеет значение, поскольку защитники построили множество мер контроля вокруг человеческого темпа. Человеческий оператор должен проверять расшаренные файлы, читать имена файлов, тестировать учетные данные, перемещаться по сети, сжимать данные и готовить сообщения для вымогательства. Агентский рабочий процесс может ускорить эти шаги и сохранить достаточно контекста, чтобы атака казалась менее постановочной.
Злоумышленнику все равно нужен доступ. ИИ не снимает необходимость в учетных данных, уязвимостях, неправильных конфигурациях или социальной инженерии. Но как только проникли внутрь, связанная с моделью цепочка инструментов может помочь в приоритизации целей, генерации команд, суммировании логов, составлении приманок, анализе внутренних документов и рекомендации, где давление будет наиболее эффективным.
Вот почему риск носит операционный, а не театральный характер. Командам безопасности не нужно представлять себе полностью автономный преступный суперразум. Им нужно представить себе компетентного младшего оператора, который никогда не спит, быстро читает, помнит всё, что видел, и может проходить по контрольным спискам с машинной скоростью.
Оборонительный ответ начинается с идентичности. Если агент ИИ может делать только то, что может сделать скомпрометированная учетная запись, то принцип наименьших привилегий, сильная аутентификация, условный доступ и мониторинг сессий становятся еще важнее. Каждая учетная запись с избыточными привилегиями превращается в взлетно-посадочную полосу для автоматизированного обнаружения.
Следующий уровень — это наблюдаемость. Один странный запрос сам по себе может не доказать атаку. Последовательность действий, таких как перечисление файлов, проверка привилегий, создание архивов и попытки отправки данных наружу, рисует более убедительную картину. Обнаружение должно понимать цепочки поведения, а не только отдельные сигналы тревоги.
Компаниям также нужны политики для собственных агентов. Внутренние инструменты ИИ, которые могут взаимодействовать с тикетами, кодом, облачными консолями или документами, должны оставлять аудиторские следы. В противном случае защитникам может быть сложно различить разрешённую автоматизацию и враждебную автоматизацию во время инцидента.
Неприятная правда заключается в том, что агентный вымогательский ПО не требует от злоумышленников создания нового интернета. Он использует ту же разросшуюся инфраструктуру предприятия, с которой защитники уже борются: токены SaaS, облачные идентичности, файловые хранилища, инструменты для совместной работы и API.
Организации, которые справляются лучше всего, будут не те, у которых самые громкие меморандумы по политике ИИ. Это будут те, кто знает, какие идентичности могут взаимодействовать с какими системами, какие автоматизации разрешено запускать и насколько быстро они могут прервать рабочий процесс, как только он начинает вести себя как злоумышленник.
Темы: агентный вымогательский ПО, безопасность ИИ, киберриски, предприятия