Компьютер хотят использовать для инференса крупных моделей и ИИ-агентов без обращения к облачной инфраструктуре.

В основе платформы — собственные чипы Xring O3, O100 и D100. При этом O100 предназначен именно для AI-задач: по данным Reuters, это 6-нм NPU, который Xiaomi разрабатывает для работы с собственной моделью MiMo на пользовательских устройствах. O3 — 3-нм мобильный SoC, а D100 предназначен для систем автономного вождения.

Заявлено, что прототип способен одновременно работать со связкой моделей 120B и 3B, переключаясь между ними в зависимости от сложности задачи. Это позволяет использовать небольшую модель для быстрых операций, а более крупную — когда требуется дополнительное качество рассуждений.

По концепции устройство действительно близко к NVIDIA DGX Spark — компактному AI-компьютеру с 128 ГБ унифицированной памяти, рассчитанному на локальный инференс моделей размером до 200 млрд параметров.

При этом Xiaomi пока раскрыла значительно меньше технических характеристик самого AI-компьютера, чем NVIDIA для DGX Spark. Поэтому пока рано называть его прямым конкурентом по производительности, уж тем более «убийцей NVIDIA».

Xiaomi последовательно строит собственный аппаратный стек: компания уже вложила в разработку чипов более 20 млрд юаней ($3 млрд), а штат полупроводникового подразделения вырос более чем до 3000 человек.