Технологии
Cloudflare OS внедряет управление доступом на основе возможностей на корпоративных платформах ИИ
Cloudflare выпустила фреймворк с открытым исходным кодом, который применяет модели разрешений с детальной настройкой к развертыванию корпоративного ИИ, обеспечивая границы доступа на уровне моделей и инструментов, а не полагаясь на общие пользовательские роли. Платформа делает акцент на явном предоставлении возможностей, а не на доверии ко всей платформе, вводя компромиссы между централизованным управлением и зависимостью от поставщика.
Автор: Лео У ·
Cloudflare выпустила Cloudflare OS, корпоративную AI-платформу с открытым исходным кодом, построенную на моделях доступа на основе способностей, согласно отчету InfoQ. Несмотря на название, проект не является обычной настольной операционной системой. Вместо этого он предоставляет платформу для предприятий для развертывания больших языковых моделей и инструментов генеративного ИИ с детализированным контролем разрешений, изоляцией данных и маршрутизацией запросов с учетом идентичности. Это объявление отражает изменение в том, как организации начинают подходить к управлению ИИ: переход от широкого ролевого доступа к явным предоставлениям возможностей, которые связывают конкретные модели, источники данных и интеграции инструментов с определенными субъектами.
Основной принцип работы прост: доступ по умолчанию отсутствует. Вместо того чтобы предполагать, что аутентифицированные пользователи могут взаимодействовать с любой моделью ИИ или инструментом в организации, Cloudflare OS требует явные токены возможностей, которые указывают, что конкретная сущность может делать, какие модели она может запрашивать, какие данные может получать и какие сторонние инструменты может использовать. Это соответствует принципам безопасности на основе возможностей, где разрешения представлены как объекты, передаваемые другим, а не как свойства идентичностей. Разработчик, создающий внутренний инструмент, не получит полный доступ к конфиденциальным моделям финансового прогнозирования только из-за наличия учетной записи в Active Directory. Вместо этого инструмент будет получать возможность, ограниченную конкретными конечными точками модели, типами запросов и ограничениями на выходные данные. Отчет InfoQ документирует материалы, лежащие в основе этого отчета.
С операционной точки зрения платформа вводит уровень шлюза модели, который перехватывает все запросы перед тем, как они достигнут конечных точек вывода. Этот шлюз проводит проверки возможностей, ведет журнал метаданных запросов, применяет ограничения по частоте, связанные с конкретными возможностями, и может направлять запросы к разным экземплярам модели в зависимости от контекста разрешений. Возможность может кодировать, разрешен ли запрос на доступ к данным в реальном времени, возвращение необработанных результатов модели или только обработанных сводных данных. Шлюз также может обеспечивать границы данных, гарантируя, что подсказки и ответы никогда не проходят через инфраструктуру вне определённых зон или что конфиденциальная информация в окнах контекста фильтруется перед доставкой в последующие инструменты.
Область разрешений и уровни идентификации
Идентификация в Cloudflare ОС отделена от прав доступа. Пользователь, сервис или приложение не наследует возможности только от своей личности. Вместо этого возможности выдаются в виде криптографических токенов, которые можно создавать, отзывать, обновлять и делегировать. Это создаёт различие между тем, кто вы есть, и тем, что вам разрешено делать. Сотрудник может обладать несколькими возможностями: одной для запроса у чат-бота службы поддержки клиентов, другой для доступа к внутреннему поиску документации и третьей для специализированного инструмента анализа, доступного только в определённое время. Отзыв одной возможности не влияет на другие, и возможности могут предоставляться с абсолютным сроком действия или с условными ограничениями, связанными с сетевым расположением, временными окнами или частотой запросов.
Такой архитектурный выбор создаёт как преимущества, так и риски, которые стоит рассмотреть. С точки зрения безопасности, это уменьшает радиус поражения при компрометации учетных данных. Если ключ API для интеграции третьей стороны будет скомпрометирован, будут раскрыты только возможности, привязанные к этому ключу, а не вся поверхность инфраструктуры ИИ организации. Аналогично, скомпрометированная пользовательская сессия не может получить доступ к инструментам или моделям за пределами возможностей, которыми обладает эта сессия. Эта модель соответствует принципам безопасности с нулевым доверием, которые поддерживаются такими фреймворками, как руководство CISA «Безопасность по дизайну». Однако компромисс заключается в операционной сложности. Команды должны предоставлять возможности для каждого нового случая использования, вести аудиторские следы выдачи и отзыва возможностей, а также решать ситуации, когда законная работа блокируется из-за того, что возможность истекла или никогда не была предоставлена. Отладка сбоев разрешений становится более сложной, когда доступ фрагментирован между множеством узких возможностей, а не консолидирован в определениях ролей. Операционный компромисс также отражается в безопасность на основе возможностей.
Остается нерешенным критический вопрос реализации: как Cloudflare OS обрабатывает эскалацию возможностей или их восстановление? Если легитимный рабочий процесс требует доступа к нескольким моделям, но оператор не предвидел такую комбинацию при выдаче возможностей, какие механизмы восстановления существуют? Поддерживает ли платформа запросы возможностей во время выполнения с рабочими процессами утверждения, или для каждого нового шаблона доступа необходимо вручную генерировать токен? Ответ определяет, масштабируется ли система с органическими бизнес-изменениями или становится операционным узким местом, которое способствует обходным путям и техническому долгу.
Унифицированная плоскость управления против привязки к платформе
Cloudflare OS предоставляет единый управляющий уровень для выбора моделей, управления возможностями и ведения аудита. Организации, которые его используют, получают видимость того, какие идентичности используют какие модели и инструменты, журналы аудита запросов к моделям и их ответов, а также централизованное применение политик. Такая консолидация ценна для соблюдения требований, обнаружения угроз и реагирования на инциденты. Однако она вводит зависимость: инфраструктура ИИ организации становится тесно связанной с архитектурой Cloudflare OS, графиком его обновлений, уровнем безопасности и продолжением его сопровождения. Если проект сталкивается с критической уязвимостью, организации не могут просто исправить её локально; они зависят от исправлений на уровне исходного кода. Если реализация шлюза модели в Cloudflare OS окажется связанной с непредвиденными задержками при масштабировании, переход на альтернативные архитектуры становится дорогим. Для более широкого контекста, CISA безопасно по проекту описывает соответствующий стандарт или учреждение.
Открытая природа проекта снижает часть рисков привязки к поставщику. Организации могут форкать кодовую базу, поддерживать собственные модификации и избегать принудительного следования путям обновления, с которыми они не согласны. Однако форкание влечет за собой собственные затраты: поддержание различных версий, управление исправлениями безопасности и потерю доступа к новым функциям и улучшениям от исходного проекта. Долгосрочная жизнеспособность любого проекта открытой инфраструктуры зависит от активного сопровождения и вклада сообщества. Cloudflare OS добьется успеха в этом отношении только в том случае, если независимые организации сочтут его достаточно ценным, чтобы вносить исправления и участвовать в управлении, а не рассматривать его как одностороннее использование работы Cloudflare. Рамочная структура кибербезопасности NIST помогает разместить проблему в более широком контексте политики и инженерии.
С точки зрения воспроизводимости, предприятия также должны учитывать, как доступ на основе возможностей взаимодействует с воспроизводимыми развертываниями. Если одни и те же токены возможностей используются в средах разработки, тестирования и производства, неправильно настроенный токен может предоставить непреднамеренный доступ к нескольким уровням развертывания. Если токены специфичны для среды, командам необходимо управлять отдельными наборами возможностей для каждой стадии, что увеличивает операционную поверхность. Кибербезопасная рамочная структура NIST и OWASP Top 10 для приложений LLM подчеркивают важность сегментации среды и принципа наименьших привилегий, но конкретные механизмы достижения этих целей на платформе ИИ еще не стандартизированы.
Cloudflare OS решает реальную проблему: большинство предприятий, внедряющих инструменты ИИ сегодня, не имеют точных средств контроля доступа, адаптированных к уникальной модели угроз генеративного ИИ. Доступ на основе ролей, разработанный для традиционной инфраструктуры приложений, не учитывает особенности поведения больших языковых моделей (LLM), включая внедрение подсказок, утечку контекста и неправильное использование инструментов. Создавая права доступа на основе возможностей с нуля, Cloudflare OS заставляет организации явно определять, что каждое приложение, пользователь и служба должны иметь возможность делать. Будет ли эта структура становиться базовой для всей отрасли или останется специализированным решением для безопасности-ориентированных предприятий, зависит от того, как организации оценивают преимущества безопасности по сравнению с операционными и зависящими от поставщика издержками. Последний момент можно проверить. Топ-10 OWASP для приложений LLM.
Темы: безопасность ИИ, контроль доступа, корпоративные платформы, открытый исходный код, права доступа