Технологии
Дата-центры ИИ превращают электроснабжение в следующий узкий участок вычислительных мощностей
Новые исследования дата-центров продолжают приходить к одному и тому же выводу: микросхемы — не единственное ограничение. Энергоснабжение, подключение к сети, охлаждение и электрическая архитектура становятся ключевыми проблемами инфраструктуры ИИ.
Майкл Г ·
Центры обработки данных ИИ превращают подачу электроэнергии в следующий вычислительный узкий участок. В отрасли по-прежнему говорят о графических процессорах в первую очередь, но практическим ограничением все чаще становится то, возможно ли доставить, преобразовать, охладить и защитить достаточное количество электроэнергии внутри объектов, построенных для беспрецедентной плотности стоек.
Это меняет то, как следует понимать инфраструктуру ИИ. Кластер — это не только ускорители и сеть. Это подстанции, трансформаторы, распределительные устройства, резервное питание, охлаждающие контуры, разрешения, очереди на подключение и местная политика. Каждый из этих уровней может замедлить развертывание модели.
Сеть теперь является частью дорожной карты модели
Когда лаборатория моделей или гипермасштабер планирует мощности, это фактически ставит ставку на сеть. Самые лучшие чипы в мире не имеют значения, если площадка не может получить достаточно надежного питания. Вот почему крупнотоннажное подключение, генерация за счет счетчика, и соглашения о покупке электроэнергии становятся темами стратегии ИИ.
Исследовательское внимание следует за денежными потоками. Инженеры изучают высоковольтное распределение внутри дата-центров, жидкостное охлаждение, конструкцию шин, тепловые режимы отказов и то, может ли обычная архитектура зданий соответствовать плотности стоек ИИ.
Эффективность становится мощностью
Эффективность — это не просто экологический показатель. В условиях ограничений каждый сэкономленный ватт может превращаться в мощность для большего объема инференса или обучения. Это делает электрическое проектирование конкурирующая переменная, а не инженерная деталь заднего плана.
Темы: дата-центры ИИ, подача энергии, сеть, инфраструктура