Исследование
Команда по чипам компании Anthropic показывает, что Frontier Labs хочет больше контроля над выводом
Anthropic подтвердила планы по созданию команды для разработки кастомного кремния, шаг, который связывает проектирование моделей с более сложной экономикой обслуживания Claude в масштабе.
Майкл Г ·
Anthropic подтвердила, что создаёт команду для разработки кастомных чипов для задач ИИ, согласно TechCrunch. Компания заявляет, что хочет совместно разрабатывать оборудование и модели, чтобы Claude мог работать быстрее и эффективнее, что является сигналом того, что доступ к арендованным вычислительным мощностям больше недостаточен для каждой передовой лаборатории.
Инженерная логика проста. Обучение привлекает внимание, потому что оно создаёт следующую модель, но вывод — это постоянная стоимость обслуживания клиентов. Система, спроектированная с учётом точности семейства моделей, паттернов памяти и рабочего процесса обслуживания, может улучшить энергопотребление и пропускную способность, если предположения о железе и программном обеспечении совпадают.
Anthropic не отказывается от внешних поставщиков. Компания заключила договоры на вычислительные мощности с AWS, Google, Nvidia и AMD. Усилия по созданию пользовательского силикона следует рассматривать как еще один путь поставки, который может занять годы, чтобы превратиться из объявлений о работе в квалифицированное производственное оборудование.
Google давно использует TPU, в то время как Meta разработала ускорители MTIA, а OpenAI занимается разработкой инференс-чипа с Broadcom. Общая черта заключается не в отказе от универсальных GPU. Суть в том, что при обслуживании моделей на очень большом объеме выгоднее иметь более строгий контроль над стеком.
Трудная работа начинается после проектирования. Чип нужно изготовить, упаковать, интегрировать в системы и обеспечить поддержку компиляторами и ядрами, прежде чем он повлияет на опыт клиента. План найма Anthropic важен, потому что он запускает этот долгий инженерный процесс.
Темы: Anthropic, AI-чипы, вывод