Технологии
d-Matrix подключает свои новые чипы для инференса к Nvidia NVLink Fusion
d-Matrix заявляет, что его процессоры следующего поколения для инференса будут подключаться к стеллажной и сетевой архитектуре Nvidia через NVLink Fusion, сочетая индивидуальные чипы с уже проверенной инфраструктурой.
Майкл Г ·
d-Matrix's NVLink Fusion план. d-Matrix утверждает, что его процессоры вывода следующего поколения будут подключаться к стойкам и сетевой архитектуре Nvidia через NVLink Fusion, сочетая пользовательские микросхемы с устоявшейся инфраструктурой для развертывания. Это развитие возникло в Брифинг Signal Diff от 11 сентября, размещая конкретное решение, выпуск или раскрытие за дебатами, которые часто обсуждались в более широких терминах.
Эта схема предоставляет небольшой компании-акселератору доступ к экосистеме масштабирования и расширения, которая уже понятна покупателям. Это может снизить риск интеграции, даже если вычислительный движок отличается от обычного GPU.
Что изменилось
Производительность вывода зависит от перемещения памяти, соединений и программного обеспечения не меньше, чем от арифметики. Быстрая микросхема может потерять свое преимущество, если модели нельзя эффективно разделить или данные задерживаются между устройствами.
Непосредственным следствием является операционное. Компаниям, законодателям и техническим командам теперь необходимо преобразовать объявление в бюджеты, контроль и измеримые результаты. Этот процесс обычно выявляет разрыв между заявлением о продукте и системой, которой можно доверять при реальных нагрузках.
Вопрос реализации начинается после демонстрации продукта. Предприятия должны соединить идентификацию, разрешения, качество данных, мониторинг и человеческое одобрение, прежде чем способная модель станет надежной инфраструктурой. NIST's Рамки управления рисками ИИ предлагают полезный базовый уровень, в то время как рекомендации OWASP охватывают сбои на уровне приложения, которые возникают, когда модели получают инструменты и данные.
Партнерство также показывает, что Nvidia расширяет своё влияние, делая свой интерфейс платформой для внешних чипов. Конкуренты получают путь на рынок, в то время как Nvidia сохраняет роль в окружающей системе.
Следующее испытание
Следующие доказательства будут получены из реализации, а не из обещаний. Полезная отчетность должна отслеживать, кто получает доступ, какие меры защиты являются обязательными, как раскрываются ошибки и могут ли клиенты или общественность независимо проверить заявленный результат.
Это различие важно, потому что рынки ИИ быстро переходят от объявления к предположению. Как только возможность считается неизбежной, закупки и политика могут опережать доказательства. Дисциплинированная реакция сохраняет видимость возможности, не воспринимая неопределенность как неудобство.
План NVLink Fusion компании d-Matrix в конечном итоге будет оцениваться по тому, что изменится вне цикла запуска: выполненная работа, сниженные риски, покрытые затраты и люди, которые сохраняют полномочия, когда система работает неправильно. Это более медленные показатели, но именно они определяют, продлится ли это развитие.
Темы: d-Matrix, Nvidia, NVLink, выводы