NVIDIA представила DSX для повышения отдачи ИИ-фабрик на мегаватт
NVIDIA описала платформу DSX для управления ИИ-фабриками, включая DSX MaxLPS для динамического распределения мощности и DSX Flex для реакции на сигналы энергосети. По данным облачного провайдера Lambda, на кластере из пяти стоек и 19 узлов с NVIDIA HGX B200 применение DSX MaxLPS дало на 24% больше пропускной способности по токенам в рамках того же энергобюджета — примерно с 4 до 5 млн токенов в секунду — и на 23% лучше производительность на ватт. NVIDIA также сообщила, что энергокомпания Silicon Valley Power отправила более 200 сигналов спроса на одну ИИ-фабрику, и каждый раз система отрабатывала автоматически.
Почему это важно
Энергия становится ключевым ограничением для ИИ-инфраструктуры, и технологии повышения отдачи на мегаватт могут отложить необходимость строить новые линии электропередачи. Часть цифр основана на проекциях самой NVIDIA и на одном развёртывании Lambda, поэтому масштабируемость ещё предстоит подтвердить.
Об источнике
Выводы подготовлены редакцией Global Trend Radar на основе указанного источника.
Читать источник: NVIDIA ↗