Технологии
Производственные усилия OpenAI по чипу Jalapeno показывают, что гонка передовых моделей перемещается в сферу кремния.
Сообщаемая работа OpenAI над кастомным ИИ-чипом с Broadcom указывает на более масштабный сдвиг: передовые лаборатории больше не хотят быть только облачными клиентами. Они хотят иметь влияние на дорожную карту кремния, которая определяет экономику моделей.
Патрик Т ·
OpenAIСообщалось о работе с Broadcom над пользовательским ускорителем ИИ, описанным в отраслевых отчетах под кодовым названием Jalapeno, что напоминает о том, что гонка передовых моделей больше не является исключительно гонкой программного обеспечения. Лаборатории, создающие самые дорогие модели, теперь хотят влиять на кремний, сети, память и экономику развертывания под ними.
Это не означает, что OpenAI может быстро заменить Nvidia. Это значит, что компания пытается создать варианты. Лаборатория, полностью зависящая от внешних чипов, внешних облаков и внешних окон планирования, имеет меньше контроля над затратами и сроками выпуска, чем лаборатория, которая может формировать часть аппаратного стека.
Почему пользовательский кремний важен
Передовые модели превращают небольшие улучшения эффективности в огромные финансовые последствия. Если проект чипа улучшается стоимость вывода, перемещение данных в памяти, потребление энергии или использование ресурсов, экономия может накапливаться на миллиардах запросов и месяцах тренировок. Вот почему кастомные микросхемы привлекательны, даже если первая версия вряд ли превзойдет лидера рынка по каждому рабочему нагрузочному сценарию.
Стратегическая цель — рычаг влияния. Если OpenAI сможет стать надежным покупателем, разработчиком или совместным разработчиком ускорителей ИИ, оно сможет вести переговоры с облачными партнерами и поставщиками чипов на других условиях. Также оно сможет оптимизировать оборудование под свои собственные модели обслуживания вместо того, чтобы принимать универсальный план развития аппаратных средств.
Nvidia по-прежнему определяет рынок
Nvidia остается центром экосистемы ускорителей ИИ, потому что продает не только чипы. CUDA, сеть, системное программное обеспечение, знакомство разработчиков и опыт развертывания в больших масштабах все укрепляют его позицию. Любые усилия OpenAI-Broadcom должны будут конкурировать с этим полным стеком, а не только с процессором.
Темы: OpenAI, Broadcom, чипы ИИ, пользовательский кремний