Модели
Anthropic выпускает Claude Fable 5.1 и Restricted Mythos 5.1
Anthropic разделила выпуск своей новейшей модели на общедоступный Fable 5.1 и более мощный Mythos 5.1, предназначенный для проверенных организаций в области кибербезопасности и наук о жизни. Такая разработка делает контроль доступа частью продукта, а не политикой, применяемой после запуска.
Майкл Г ·
Anthropic выпустила Claude Fable 5.1 используется для общего программирования и работы с знаниями, в то время как тесно связанный Claude Mythos 5.1 предназначен для проверенных организаций в области кибербезопасности и наук о жизни. По словам компании, оба продукта используют одну и ту же базовую модель, но различаются по мерам безопасности и доступу. Fable блокирует или перенаправляет категории работы в кибернетике и биологии. Mythos сохраняет больше этих возможностей для одобренных исследователей под наблюдением и с требованиями по хранению данных. Такое разделение превращает знакомый аргумент о безопасности в конкретную архитектуру продукта: наиболее мощное поведение больше не автоматически включается в самую широкую дистрибуцию.
Fable 5.1 — это самая мощная общедоступная модель компании Anthropic для долгосрочного программирования и профессиональных задач. Компания утверждает, что она общается более лаконично, чем предыдущие версии, и предназначена для амбициозной асинхронной работы. Mythos 5.1 ориентирован на более узкий круг пользователей, которым необходимы продвинутые исследования уязвимостей или биологический анализ. Стоимость начинается от 10 долларов за миллион входных токенов и 50 долларов за миллион выходных токенов, что отражает как передовые возможности модели, так и дополнительные расходы на сервис с контролируемым доступом.
Важное инженерное решение заключается не в названии каждого уровня. Важна система резервирования. Когда Fable обнаруживает запрос по кибербезопасности за пределами разрешенного диапазона, приложения Claude могут направлять задачу к модели Opus вместо того, чтобы просто завершить разговор. Запросы по биологии проходят аналогичный путь. Компания Anthropic заявляет, что обновленные биологические средства контроля вмешиваются в безопасную работу на 85% реже, чем средства защиты, поставляемые с Fable 5. Это попытка снизить стоимость обеспечения безопасности для обычных исследователей, не делая при этом ограниченные возможности доступными для широкого круга пользователей.
Резервная модель меняет значение отказа. Пользователи все еще могут получить полезный ответ, но система, выполняющая работу, менее способна в чувствительной области. Это может сохранять законные рабочие процессы, одновременно ограничивая скорость или автономность опасных. Это также создает проблему воспроизводимости. Команда может думать, что оценила Fable 5.1, когда часть её работы была тихо выполнена другой моделью. Журналы предприятия и ответы API должны чётко идентифицировать такие переходы, если клиенты хотят оценить качество, стоимость и риск.
Одна модель, два рабочих предела
Anthropic описывает Mythos 5.1 как свою самую мощную модель для исследований в области кибербезопасности и биологии. Доступ первоначально ограничен для одобренных организаций США через доверенные программы, включая Программу проверки наук о жизни и Программу кибернетической проверки. Стандартная служба предусматривает 30-дневную политику хранения данных для мониторинга безопасности. Эти условия делают Mythos менее похожим на обычную API-точку доступа и больше на контролируемую исследовательскую инфраструктуру, где идентичность и цель запроса являются частью запроса.
Подход признает трудный факт о генеральных моделях: улучшения в рассуждениях и использовании инструментов могут повысить как продуктивные, так и опасные показатели. Модель, обученная на отладке больших программных систем, может стать лучше в выявлении уязвимостей. Система, способная синтезировать научную литературу, также может отвечать на вопросы с двойным назначением. Anthropic пытается сохранить общую основу интеллекта, одновременно меняя то, что будет делать развернутая служба, и кто может снять эти ограничения.
Эта архитектура более гибкая, чем поддержка полностью отдельных семейств моделей, но делает средства защиты критически зависимыми. Если классификатор слишком общий, законные пользователи теряют возможность, за которую они заплатили. Если он слишком узкий, общий уровень раскрывает работу, предназначенную для проверенной программы. Компания публикует результаты бенчмарков с включенными производственными средствами защиты, что является правильной базой, потому что оценка сырой модели не описывает систему, которую фактически получают клиенты.
Критерии оценки всё ещё следует воспринимать с осторожностью. Anthropic сообщает о хороших результатах в области программирования, интеллектуальной работы и научных задач, но сравнение зависит от настроек усилий, тестовых сред и того, как оцениваются заблокированные запросы. Резервный вариант может улучшить удобство использования, при этом скрывая, какая модель создала результат. Покупателям нужны оценки на уровне задач с использованием их собственных репозиториев, документов и процедур проверки. Наиболее полезной мерой является не то, занимает ли одна модель лидирующую позицию в рейтинге, а то, выполняет ли она продолжительную работу без создания неприемлемых затрат на наблюдение.
Научная работа поднимает другую проблему доступа
Компания Anthropic представляет исследовательскую эффективность Fable 5.1 как ранний показатель того, каким образом модели могут способствовать научным открытиям. Это утверждение будет зависеть не только от генерации правдоподобных гипотез. Научная работа требует проверяемых источников, стабильных вычислений, честной оценки неопределенности и экспериментов, которые могут быть воспроизведены другими командами. Модель может ускорить обзор литературы или написание кода, не будучи надежной для определения, какой результат является истинным. Самые мощные системы могут увеличить объем работы, который человеку нужно проверять, прежде чем он уменьшится.
Ограниченный доступ может быть легче оправдать в биологии, чем администрировать. Исследовательские организации различаются по зрелости, финансированию и географическому положению. Программа, которая принимает только знакомые учреждения, может снизить злоупотребления, одновременно концентрируя возможности в уже мощных лабораториях. Anthropic потребуется прозрачные стандарты допуска и путь для участия квалифицированных небольших команд. Проверка безопасности должна рассматривать предлагаемые работы и операционные контроли, а не только престиж заявителя.
Кибер-уровень имеет аналогичное напряжение. Защитникам нужны продвинутые модели, потому что атакующие будут использовать любые доступные им возможности. Однако система исследований уязвимостей может создавать знания об эксплойтах, которые трудно сдержать. Проверка, мониторинг и требования ответственного раскрытия создают трение, но это трение может сохранить окно возможностей защитника для исправления систем до того, как методы распространятся. Программы доступа должны публиковать агрегированную информацию о одобрениях, отказах и открытиях, не раскрывая при этом саму чувствительную работу.
Корпоративным клиентам также необходимо понимать вопросы хранения данных. Тридцать дней мониторинга могут помочь выявлять злоупотребления и расследовать инциденты, но это может противоречить политике в отношении исходного кода, информации о пациентах или результатов собственных исследований. Контролируемая модель не может быть принята только потому, что она более эффективна. Юридические, службы безопасности и исследовательские руководители должны согласовать, какие данные могут поступать в сервис, кто может проверять журналы и как обрабатываются полученные выводы после окончания периода хранения.
Контроль доступа становится конкурентным преимуществом
Традиционно модельные компании конкурировали по уровню интеллекта, скорости и цене. Fable и Mythos добавляют еще одно измерение: насколько точно провайдер может распределять возможности. Грубая система отказов тратит полезную информацию. Неограниченный доступ переносит расходы на безопасность на внешние стороны. Хорошо спроектированный уровень может предоставить обычным пользователям продуктивную модель, квалифицированным исследователям — более мощную, а аудиторам — доказательства того, почему существует это ограничение. Это сложно построить и потенциально ценно, если клиенты доверяют системе.
Рынок проверит, примут ли организации такое различие или предпочтут поставщиков, которые накладывают меньше ограничений. Некоторые разработчики будут возражать против классификаторов, которые изменяют поведение без предупреждения. Другие же оценят сервис, который помогает обеспечивать внутреннюю политику. Компания Anthropic может укрепить свою позицию, документируя замены моделей, предлагая административные инструменты и предоставляя клиентам достаточно телеметрии для различения вмешательства в безопасность от обычного сбоя модели.
Распределение в облаке усложнит границы. Компании часто получают доступ к Claude через несколько платформ, каждая из которых имеет свою идентификацию, регистрацию и региональные настройки. Anthropic нуждается в различии между Fable и Mythos, чтобы пройти через эти уровни, не создавая более слабых маршрутов через реселлера. Ограниченная модель ограничена только настолько, насколько дисциплинированный конечный узел её обслуживает. В условиях контракта следует указывать, какая сторона проверяет пользователей, хранит данные мониторинга и реагирует, когда проект меняет назначение.
Администраторам также нужны средства управления ниже уровня организации. Компания может соответствовать требованиям Mythos, в то время как только небольшая группа безопасности должна им пользоваться. Разрешения рабочего пространства, изоляция проектов и ограничения расходов могут предотвратить превращение широко используемого ключа API в фактическую политику доступа. Сервис должен делать временное одобрение проще, чем постоянное право, потому что исследователю, которому нужны расширенные возможности для одного раскрытия, они могут не понадобиться для каждой будущей задачи.
Разделение создаёт полезный исследовательский вопрос о замещении возможностей. Если Fable направляет чувствительную работу в Opus, пользователи могут разложить заблокированную задачу на меньшие запросы, которые по отдельности кажутся безвредными. Меры предосторожности должны учитывать накопленный контекст и использование инструментов, не рассматривая каждую техническую последовательность как вредоносную. Тестирование должно включать долгие проекты и команды агентов, а не только отдельные запросы, потому что распределённая работа — это то, как продвинутые пользователи будут взаимодействовать с моделью.
Снятие модели с эксплуатации потребует осторожности. Компания, строящая регулируемый процесс вокруг Fable 5.1, может зависеть от её точного поведения при сбое. Замена базовой модели или классификатора может изменить, какие задачи выполняются, а какие блокируются. Anthropic должен предоставлять версии конечных точек, уведомления об изменениях и достаточный период перекрытия, чтобы клиенты могли повторно запускать оценки. Контроль безопасности является частью интерфейса приложения, даже если поставщик предпочёл бы настраивать его незаметно.
Fable 5.1 и Mythos 5.1, таким образом, представляют собой не просто очередной цикл эталонных тестов. Они являются проверкой того, сможет ли одна приграничная модель поддерживать принципиально разные уровни риска без путаницы для пользователей и ослабления ответственности. Если разделение сработает, проектирование доступа может стать столь же важным, как и базовые веса. Если оно не удастся, отрасль вернется к более жесткому выбору между широким доступом и узкой функциональностью. Ответ проявится в журналах аудита, результатах исследований и отчетах о происшествиях, а не в графике запуска.
Темы: Anthropic, Claude Fable 5.1, Claude Mythos 5.1, доступ к модели, безопасность ИИ