Технологии
Работа ChatGPT превращает корпоративный ИИ в тест управления разрешениями
Новый продукт Work от OpenAI предназначен для выполнения более длительных задач с файлами и подключенными приложениями, но его настоящим корпоративным тестом станет то, смогут ли компании сохранить полезность агентов без предоставления им чрезмерного доступа.
Патрик Т ·
ChatGPT Work представляется как способ поручать ИИ более длительные и сложные задания, который может исследовать, анализировать, использовать подключенные файлы и приложения, а также создавать готовый материал. Для компаний это обещание сразу становится вопросом разрешений.
Чат-бот, который составляет абзац, легко контролировать. Агент, который может просматривать папку с проектом, получать данные из подключенной службы, создавать отчёт и готовить действия, ближе к новому классу программного обеспечения для сотрудников. Ему требуется должностная инструкция, чётко определённый объём работы и способ остановиться, прежде чем он пойдет туда, куда не следует.
Продуктовая концепция OpenAI подчёркивает, что пользователи могут отслеживать прогресс, отвечать на вопросы, менять направление и одобрять важные действия. Этот человеческий контроль необходим, но он не заменяет разумный дизайн системы. Агент не должен иметь возможность видеть каждый файл только потому, что ему когда-то может понадобиться один из них.
Ранние внедрения, которые работают лучше всего, вероятно, будут узкими: подготовка еженедельного обзора из утвержденных источников, составление плана работы с клиентом по продажам на основе определенных данных CRM просмотр или суммирование очереди поддержки без права её изменения. Эти способы использования создают ценность, при этом минимизируя область воздействия.
Техническая дисциплина знакома ИТ-командам. Используйте действовать по принципу минимальных привилегий, разделяйте права на чтение и запись, держите чувствительные системы за дополнительными проверками, и сделайте каждое значимое действие отслеживаемым. Агент ИИ должен наследовать те же операционные ограничения, которые хорошо управляемая компания уже применяет к сервисным учетным записям и автоматизации.
Также существует вопрос управления. Когда агент создаёт документ или рекомендует действие, кто-то всё равно несёт ответственность за результат. Чистый интерфейс может облегчить забывание этой ответственности. Чем более автономным кажется программное обеспечение, тем более осознанно компания должна подходить к тому, где человеческое суждение остаётся обязательным.
Поэтому рынок агентов, скорее всего, будет завоёван в административных деталях. Качество модели имеет значение, но также важны области подключения, средства отзыва, журналы аудитаправила хранения и способность объяснить, какой источник или приложение создали вывод.
ChatGPT Work дает компаниям более конкретный повод тестировать агентный ИИ. Его коммерческий успех будет зависеть от чего-то менее эффектного: сможет ли главный информационный директор сказать «да», не теряя контроля над тем, кто или что может взаимодействовать с бизнесом.
Темы: ChatGPT Work, корпоративный ИИ, агенты, разрешения