Безопасность
Корпоративным ИИ-агентам нужна идентичность, прежде чем им можно будет доверять работу
Компании понимают, что ИИ-агенты не могут стать настоящими коллегами без идентичности, прав доступа и журналов аудита. Слой доверия вокруг агентов может стать одним из самых важных рынков корпоративного ИИ.
Автор: Лео У ·
Корпоративный ИИ агентам нужна идентичность прежде чем им можно будет доверить работу. Чат-бот может ответить на вопрос анонимно, но агент, который открывает тикеты, редактирует документы, читает записи клиентов или запускает рабочие процессы, должен управляться как привилегированный субъект.
Это превращает развертывание агента в задачу архитектуры безопасности. Агенту необходимо имя, роль, границы разрешений, журналы, отзыв, эскалация и доказательства того, что он выполнил то, что должен был.
Агенты — это не пользователи, но они ведут себя как таковые
Традиционные системы идентификации создавались для людей и служебных учетных записей. Агенты занимают неловкое место между этими категориями. Они принимают решения как программное обеспечение, но действуют в рабочих процессах как сотрудники. Эта неоднозначность создает риск, если компании предоставляют широкий доступ без контекста.
Слой аудита так же важен. Если агент допускает ошибку, менеджерам нужно восстановить, какие данные он видел, какими инструментами пользовался, какой политике следовал и почему эскалировал или не эскалировал. Без этой записи автономность становится неподотчетной.
Новый рынок безопасности
Это создает пространство для компаний, занимающихся инфраструктурой вокруг агентов разрешением, обеспечения соблюдения политики, мониторинга и реагирование на инциденты. Наиболее ценными платформами для агентов могут быть те, которые делают автономность достаточно скучной, чтобы команды по соблюдению нормативов могли ее одобрить.
Темы: агенты ИИ, идентификация, кибербезопасность, корпоративный ИИ