Анализ
Snowflake поддерживает Dust и Gray Swan, так как расходы предприятий на ИИ выходят за рамки моделей
Snowflake Ventures подчеркивает инвестиции в Dust и Gray Swan, поскольку компании требуют управляемых данных, повторно используемых агентов и безопасности выполнения перед тем, как перемещать ИИ из пилотных проектов в производство.
Эльвин С ·
Snowflake Ventures четче определяет свою инвестиционную стратегию в корпоративном ИИ, утверждая, что следующий ценный слой будет находиться между фундаментальными моделями и бизнес-приложениями. Компания выделила фирменные компании портфеля Dust и Gray Swan в качестве примеров инфраструктуры, необходимой для того, чтобы агенты были полезны на работе: управляемый доступ к корпоративным знаниям, повторно используемые рабочие процессы, контроль с учетом идентификации и безопасность, которая остается активной, пока модель выполняет действия.
Аргумент отражает изменение в покупательском поведении. Компании потратили первую фазу генеративного ИИ на сравнение моделей и проведение изолированных пилотных проектов. Производство выявляет менее привлекательные вопросы. Какие записи может извлечь агент? Может ли он отличить черновик от утвержденной политики? Кто может авторизовать вызов инструмента? Что происходит, когда модель меняется? Эти контролы редко появляются в бенчмарке, но они определяют, разрешат ли юридические, службы безопасности и операционные команды расширять развертывание.
Отсутствующее звено в стеке ИИ
Snowflake описывает слой, построенный вокруг гибкого доступа к моделям, безопасности и рабочими процессами, ориентированными на ИИ. У него очевидный коммерческий интерес к этой архитектуре. Если корпоративным агентам нужен единый управляемый источник истины, Snowflake хочет, чтобы его платформа данных занимала эту позицию. Портфель венчурных инвестиций может расширить охват компании до интерфейсов и систем управления, которые используют клиенты поверх базы данных.
Dust создает организационных агентов, которые ищут знания компании, подключаются через серверы Model Context Protocol и координируют повторно используемые навыки между командами. Его ценностное предложение не заключается в проприетарной передовой модели. Оно заключается в возможности использовать разные модели без необходимости перестраивать слой знаний и разрешений вокруг каждой из них. Эта портативность становится более ценной по мере того, как цены и возможности моделей меняются быстро.
Gray Swan работает над защитой во время выполнения, тестируя системы на уязвимости и отслеживая, как модели ведут себя после развертывания. Статической оценки недостаточно для агента, который ежедневно сталкивается с новыми документами, инструментами и враждебными инструкциями. Защита во время выполнения может выявлять внедрение подсказок, нарушения политики и подозрительные последовательности действий, хотя необходимо избегать блокировки настолько большого объема легитимной работы, чтобы пользователи начинали её обходить.
Вместе эти инвестиции показывают, где может накапливаться стоимость предприятия, если базовые модели станут более взаимозаменяемыми. Компании по-прежнему будут платить за интеллект, но долговечная система учета может находиться в слое данных, идентификации и рабочих процессов. Поставщик, который владеет этим слоем, может менять базовые модели, сохраняя при этом отношения с клиентами и операционный контекст, который делает каждое развертывание полезным.
Управление должно обеспечиваться, а не описываться
Многие продукты ИИ рекламируют управление как панель инструментов. Настоящее управление изменяет возможности системы. Торговый агент не должен получать доступ к расчетным ведомостям просто потому, что запрос креативный. Агент по программированию не должен развертывать в продакшн без необходимого одобрения. Политика должна соблюдаться через идентификацию и границы инструментов вне языковой модели, с журналами, которые позволяют следователю восстановить каждое действие.
MCP ускорил интеграцию, предоставляя моделям общий способ обнаружения и вызова инструментов. Это также расширяет поверхность атаки. Каждый сервер может стать путем к конфиденциальным данным или побочным эффектам, а описания, предоставленные инструментами, могут влиять на поведение модели. Руководство по безопасности протокола подчеркивает согласие, авторизацию и осторожное обращение с метаданными инструментов, но предприятиям все равно нужны конкретные контрольные меры реализации.
Слой данных создает собственную сложность. Корпоративная информация дублируется в хранилищах, системах хранения документов, системах обмена сообщениями и SaaS-приложениях. Разрешения, которые работают для интерфейса человека, могут не применяться чисто для агента, выполняющего сотни запросов. Компаниям необходимо сохранять правила доступа на уровне источника и происхождение данных, а не просто копировать все в новый индекс с более широкими разрешениями.
Оценка должна переходить от качества ответа к выполненной работе. Полезные показатели включают количество принятых задач в час, время на исправления, попытки несанкционированного доступа, сбои инструментов и стоимость восстановления. Агент, который набрасывает быстрее, но создает больше работы по проверке, может быть менее продуктивным. Слой безопасности, который перехватывает каждую атаку, но блокирует обычные рабочие процессы, может быть безопасным только потому, что его никто не использует.
Инвестиционная тезис превращается в стратегию платформы
Покупателям следует избегать решения вопросов управления путем покупки продукта до того, как они определят политику. Программное обеспечение может обеспечить, кто может использовать инструмент или получить запись, но руководство должно решить, какие решения остаются за людьми, какие доказательства оправдывают автоматизацию и кто несет ответственность за сбой. Платформа, установленная поверх неразрешенной ответственности, ускорит неясность, а не устранит её.
Новая категория будет тестироваться во время инцидентов. Когда агент отправляет неправильное сообщение, изменяет запись клиента или раскрывает ограниченные данные, операторам нужна единая временная шкала между моделью, слоем извлечения и бизнес-приложением. Поставщики, которые экспортируют полные, совместимые аудиторские записи, будут ценнее тех, кто хранит каждое событие только внутри собственного интерфейса.
Snowflake может извлечь выгоду, даже если Dust и Gray Swan останутся независимыми. Интеграции делают платформу более привлекательной как регулируемый центр архитектуры агентов. Партнерские отношения в портфеле также могут показать Snowflake, где у клиентов возникают трудности, прежде чем эти потребности станут основными функциями продукта. Риск заключается в том, что покупатели будут сопротивляться сборке еще одного перегруженного стека перекрывающихся инструментов ИИ.
Консолидация вероятна. Провайдеры облачных услуг, платформы данных, компании по обеспечению безопасности и поставщики приложений все хотят владеть управлением агентами. Клиенты будут предпочитать меньше контрольных уровней, но ни один поставщик не сможет одинаково хорошо охватить все модели и бизнес-системы. Открытые интерфейсы и переносимые данные аудита будут иметь значение, потому что удобный сегодня пакет может стать завтрашней блокировкой.
Регулирование усилит спрос на доказательства. Рамка управления рисками ИИ NIST стимулирует организации картографировать, измерять и управлять рисками ИИ на протяжении всего жизненного цикла системы. Продукты, которые могут показать происхождение, разрешения, оценку и историю инцидентов, будут иметь преимущество перед системами, которые предлагают только общие гарантии.
Тезис Snowflake убедителен, потому что он сосредоточен на той части корпоративного ИИ, которую модели не могут решить, становясь умнее. Организациям все равно нужно решать, кто владеет рабочим процессом, какие данные являются авторитетными и что происходит, когда автоматизация ошибается. Dust и Gray Swan — это ставки на то, что эти решения могут превратиться в программное обеспечение. Победителями станут компании, которые делают контроль видимым, не превращая каждое полезное действие в бюрократическую очередь.
Темы: Snowflake, Dust, Gray Swan, корпоративный ИИ, ИИ-агенты