Xiaomi AI Cube против DGX Spark: прототип против продукта

Xiaomi продемонстрировала компактный локальный AI-компьютер с тремя собственными процессорами, заявленной скоростью передачи данных через память 1,22 ТБ/с и локальным развертыванием моделей 120B плюс 3B. Похоже на конкурента DGX Spark, но продукты находятся на разной стадии готовности.

DGX Spark доступен и задокументирован. AI Cube — это инженерный прототип. Xiaomi не объявляла цену Cube, дату выпуска, установленную память, хранилище, порты, операционную систему, публичное время выполнения или сопоставимый бенчмарк.

Вердикт для покупателя: покупайте платформу, которую можете протестировать

Не откладывайте текущий локальный проект ИИ ради AI Cube. Купите DGX Spark только когда его 128 ГБ унифицированной памяти, стек CUDA и документированный путь развертывания соответствуют конкретной рабочей нагрузке, которая вам нужна сейчас. Выберите настроенный Mac или обычную GPU-рабочую станцию когда ваша предпочитаемая среда выполнения, бюджет или существующее программное обеспечение указывают на это. Следите за AI Cube если вас интересует его дизайн с близкой памятью, но не считайте объявленный прототип как наличие мощности, поддержку или дату поставки. Публичная демонстрация Xiaomi полезна как доказательство архитектуры; это не розничная спецификация и не сопоставимый показатель производительности.

Проверенная спецификация против неизвестной

Спецификация	Прототип Xiaomi AI Cube	NVIDIA DGX Spark
Статус	Проверено: демонстрируется прототип; дата выхода в розницу и цена не объявлены	Проверено: доставка системы для разработчиков с поддержкой и документацией
Архитектура	Проверено: XRING O3 + O100 + D100	Проверено: GB10 Grace Blackwell Superchip
Системная память	Неизвестно: установлена память AI Cube и как чипы делят её. D100 поддерживает до 160 ГБ.	Проверено: 128ГБ когерентная LPDDR5X
Опубликованная пропускная способность	Проверено, но с ограничениями: O100 утверждает 1,22 ТБ/с у памяти рядом; это не опубликованное значение системной памяти	Проверено: 273 ГБ/с когерентная системная память
Утверждение локальной модели	Проверено как демонстрация: Развертывание двух моделей 120B + 3B; точная модель, точность и residency неизвестны	Проверенная ёмкость: модели до 200B, в зависимости от формата и времени исполнения
Опубликованный результат по токенам	Проверено как результат лаборатории Xiaomi: до 330 токенов/с на MiMo 3B; контекст, пакет, время исполнения и энергопотребление неизвестны	Неизвестно как универсальная цифра: скорость зависит от модели и времени исполнения
Программное обеспечение и ввод/вывод	Неизвестно: ОС, время исполнения, контейнеры, хранилище, порты, сеть и публичный SDK	Проверено: DGX OS, экосистема CUDA, 4 ТБ NVMe, 10GbE, Wi-Fi 7 и ConnectX-7
Цена	Неизвестно: не анонсировано	Опубликованная MSRP NVIDIA: $4,699; местная цена у реселлера и доступность могут отличаться

Максимумы компонентов не являются системными бенчмарками. Цифра Xiaomi 1,22 ТБ/с и цифра NVIDIA 273 ГБ/с описывают разные области памяти.

Почему Xiaomi использует три чипа

• XRING O3 обеспечивает общие вычисления, графику и энергоэффективный NPU.
• XRING O100 является специализированным акселератором для вывода, с интегрированной DRAM и заявленным локальным интерфейсом 1,22 ТБ/с.
• XRING D100 — процессор для интеллектуального вождения с 20-ядерным CPU, 16-ядерным NPU и поддержкой до 160 ГБ объединённой памяти.

Отсутствующая деталь заключается в том, как эти чипы обмениваются работой и памятью. Xiaomi не публиковала информацию о межчиповой структуре, модели когерентности, стоимости копирования или о том, какой чип используется на каждом этапе нагрузки в 120 миллиардов параметров. Три ускорителя полезны только если перемещение данных не стирает их индивидуальные преимущества.

Что может решить O100

Генерация токенов крупной модели зачастую ограничивается перемещением памяти. O100 размещает два высокоскоростных DRAM слоя над 6-нм логическим слоем с 14 ядрами NPU. Xiaomi сообщает о 28,672 эффективных соединениях данных и локальной пропускной способности до 1,22 ТБ/с.

Такая архитектура может ускорить декодирование, когда рабочая модель помещается в сложенной памяти. Xiaomi не раскрыла, сколько DRAM содержит O100. Небольшой быстрый уровень может ускорить работу модели на 3 миллиарда параметров, в то время как модель на 120 миллиардов параметров по-прежнему зависит от более медленного емкостного уровня.

Что означает 330 токенов/с, не является доказательством

Результат Xiaomi на уровне 330 токенов/с был получен с использованием модели MiMo 3B. Компания не опубликовала длину входных данных, длину выходных данных, размер батча, точный формат, версию времени выполнения, время до первого токена или потребляемую мощность. Это не была модель на 120B.

Пример плотной модели	Приблизительные необработанные веса в 4-битах	Идеальная скорость сканирования полных весов в секунду при 1,22 ТБ/с*
3B	1.5ГБ	813
30B	15ГБ	81
70B	35ГБ	35
120B	60ГБ	20

*Это иллюстрация пропускной способности, а не прогноз скорости. Она не учитывает кэши, маршрутизацию смеси экспертов, сжатие, вычислительные ограничения, трафик контекста и накладные расходы времени выполнения.

Таблица показывает, почему результат 3B мало говорит о рабочей нагрузке 120B. Обоснованное сравнение требует одной и той же публичной модели, квантования, контекста, размера батча, длины вывода и настроек качества на обеих машинах.

Почему конструкция 120B плюс 3B полезна

Небольшая локальная модель может классифицировать запрос, получить файл или решить, простая ли задача. Более крупная модель может выполнять более глубокое рассуждение и сложное генерирование. Маршрутизация может снизить задержку и избежать использования большой модели на каждом шаге.

Xiaomi не показала, остаются ли обе модели в памяти, как делится память, сохраняется ли контекст при передаче или могут ли сторонние модели использовать тот же маршрут. Концепция полезна; платформа для разработчиков пока не публична.

Где DGX Spark впереди

DGX Spark предоставляет единый согласованный пул памяти объемом 128 ГБ и документированный программный путь. Разработчики могут использовать CUDA, PyTorch, контейнеры NVIDIA, TensorRT-LLM, vLLM, llama.cpp, Ollama и LM Studio. NVIDIA также публикует руководства по развертыванию и дообучению.

Его ограничения известны. Интерфейс памяти на 273 ГБ/с может ограничивать декодирование одним пользователем на больших плотных моделях. Хост Arm64 может усложнять использование программного обеспечения, предназначенного только для x86. Цена $4,699 высока, а показатель 1 PFLOP предполагает работу с разреженными FP4.

Эти ограничения можно измерить, потому что продукт существует.

Решение о покупке

Купите DGX Spark если вам сейчас требуется 128 ГБ локальной модели, полагайтесь на CUDA или контейнеры NVIDIA, или нужен документированный путь развертывания.

Следите за AI Cube если важны вывод рядом с памятью, маршрутизация локальной модели или экосистема Xiaomi Edge. Пока нечего покупать.

Сохраните обычную рабочую станцию с GPU если ваши модели помещаются в память GPU и важнее совместимость с изображениями, видео, обучением или x86, чем компактная унифицированная память.

Перед покупкой сравните рабочую нагрузку, а не корпус: Руководство по конфигурации Mac mini объясняет резервы локальной памяти, руководство по Mac Studio охватывает варианты Apple с большей емкостью, и сравнитель моделей отделяет данные о стоимости моделей и результатах тестов от основных характеристик оборудования.

Какая машина подходит какому пользователю локального ИИ?

Ваши требования	Лучшее текущее соответствие	Почему	Не читайте больше, чем есть
Хост локальной модели с 128 ГБ и контейнерами CUDA	DGX Spark	Существуют розничное оборудование, согласованная память, DGX OS, CUDA и опубликованные инструкции	Заявление о мощности не гарантирует, что каждый артефакт 200B будет быстрым или совместимым
Ассистент с 7B–35B на тихом универсальном рабочем столе	Настроенный Mac mini или Mac Studio	Унифицированная память может вмещать выбранные локальные артефакты, сохраняя рабочие процессы macOS	Запас памяти, контекстный кэш и поддержка во время выполнения по-прежнему определяют возможность размещения
Изображения, видео, обучение или программное обеспечение, ориентированное на x86	Обычная рабочая станция с GPU	Зрелые пути программного обеспечения для дискретных GPU и x86 могут быть важнее компактной унифицированной памяти	Цена, VRAM, потребляемая мощность и шум могут перевесить ключевую характеристику ускорителя
Исследование вывода рядом с памятью или edge-стека Xiaomi	Список наблюдения AI Cube	O100 — это интересная раскрытая архитектура памяти	Публичного пути покупки, выполнения или тестов производительности пока нет

Воспроизводимый план локального AI-бенчмарка

Выполняйте этот план только тогда, когда существует оборудование AI Cube и публичное время выполнения. Он умышленно не публикует никаких придуманных результатов.

1. Используйте один публичный чекпоинт и неизменяемую ревизию на обеих системах. Зафиксируйте квантизацию, токенизатор, длину контекста, токены запроса, сгенерированные токены, настройки семплирования, размер пакета, конкурентность и условие остановки.
2. Закрепите время выполнения, компилятор/драйвер, образ контейнера, командную строку и хэш файла модели. Выполните прогрев, затем как минимум три замеренных запуска для каждой рабочей нагрузки.
3. Измерить пропускная способность предварительной загрузки, время до первого токена, декодировать токены/с, и агрегировать токены/с отдельно. Короткая демонстрация декодирования 3B не может заменить рабочую нагрузку с длинным контекстом 120B.
4. Зафиксируйте пиковое использование памяти на хосте и ускорителе, резидентность модели, поведение кеша и любые передачи или выгрузки между чипами. Для AI Cube раскрывайте установленную память O100/D100 и путь данных, используемый на каждом этапе.
5. Измерьте потребляемую мощность с помощью внешнего измерителя в режиме ожидания, во время предварительной загрузки, во время декодирования и после 30 минут устойчивой нагрузки. Запишите температуру окружающей среды, режим работы системы охлаждения и снижение производительности.
6. Сравните качество задач с фиксированными публичными подсказками и слепой схемой оценки «сдал/не сдал» для человека, а не только по скорости обработки токенов. Опубликуйте исходные журналы и ошибки.
7. Повторите точно такой же протокол на DGX Spark с использованием публичного оптимизированного рантайма, затем опубликуйте конфигурацию оборудования, общую стоимость и полную таблицу результатов.

Ближайшей текущей эталонной реализацией является NVIDIA руководство DGX Spark vLLM; адаптируйте её команду с закреплённой версией в публичном репозитории, а не показывайте скриншот или одно число консоли в качестве эталона.

Пока таких результатов нет, AI Cube — это интересная архитектура, а не проверенная замена DGX Spark.

Источники

• IT Home: характеристики AI Cube и конфигурация с тремя чипами
• The Paper: объявление XRING и коммерческий график
• 36Kr: архитектура O100 и детали стэков памяти
• CnEVPost: D100 и демонстрация AI Cube
• NVIDIA: характеристики DGX Spark
• NVIDIA: обзор системы DGX Spark
• NVIDIA: сценарии использования DGX Spark
• Tom’s Hardware: независимый обзор DGX Spark

Запустите это в работу

Разделяйте ёмкость памяти, пропускную способность памяти, точность, размер модели, предварительную загрузку и декодирование при оценке заявлений local-AI.

Попробовать

Напишите сопоставимый эталон с использованием той же модели, квантизации, контекста, размера пакета, времени выполнения и измерения энергопотребления.

Докажите, что это сработало

Опубликуйте время до первого токена, скорость декодирования, пропускную способность, использование памяти, энергопотребление и качество выполнения задач на обеих машинах.

Где это может оплатить

Локальная установка для вывода ценной тогда, когда она надежно выполняет приватный рабочий процесс, а не когда выигрывает в сравнении по компонентам.

Держите в поле зрения

• Прототип Xiaomi AI Cube мощностью 150 Вт сочетает XRING O3, O100 и D100. Это не розничный продукт.
• Заявленное значение 1,22 ТБ/с относится к интерфейсу памяти O100 с низкой задержкой; Xiaomi не раскрывала емкость своей быстрой памяти.
• Демонстрация со скоростью 330 токенов/с использовала MiMo 3B, а не неназванную модель 120B, также показанную на Cube.
• DGX Spark предоставляет 128 ГБ когерентной памяти, задокументированный стек CUDA и текущую рекомендованную розничную цену $4 699.

Изучите рабочий процесс: выбор и самостоятельное размещение китайских моделей с открытым весом →