![](http://expert.com.ua/wp-content/uploads/2025/01/giganet_banner-900x90-2.png")
Компанія NVIDIA представила нову технологію DSX MaxLPS, яка призначена для оптимізації роботи AI-фабрик. Завдяки системі динамічного керування живленням, продуктивність вимірювана у кількості оброблених токенів на мегават спожитої енергії, може зрости до 40%.
Що таке DSX MaxLPS і навіщо це потрібно?
DSX MaxLPS (Dynamic Scheduling and Power Management System) – це система, розроблена NVIDIA для AI-інфраструктур. Її головне завдання – ефективно розподіляти енергетичні ресурси дата-центрів, особливо в умовах обмеженого живлення. Ключовим показником ефективності тут виступає кількість токенів, яку AI-система може обробити за секунду, споживаючи 1 МВт електроенергії. Це дозволяє краще оцінити реальну продуктивність AI-обчислень, враховуючи енергетичні обмеження.
Інтеграція та перші результати
Технологія DSX MaxLPS вже інтегрована компанією Emerald AI у платформу Conductor. Ця платформа використовується для оркестрації навантажень у дата-центрах, враховуючи стан електричної мережі. Conductor AI з функцією DSX Flex здатна динамічно регулювати споживання енергії дата-центром, реагуючи на сигнали від електромережі. Система вже успішно пройшла понад 200 таких автоматичних коригувань без втручання людини.
Після тестових випробувань, проведених хмарними провайдерами, такими як Lambda, було зафіксовано значне зростання продуктивності. Зокрема, на фіксованому енергетичному бюджеті вдалося досягти 24% збільшення пропускної здатності токенів.
Тестування з Lambda
Lambda, яка обслуговує понад 10 000 клієнтів як GPU-провайдер хмарних послуг, провела власні тести. Випробування відбувалося на кластері з 5 стійок і 19 вузлів. У порівнянні з попередньою конфігурацією (16 вузлів, що працювали на повній потужності), новий кластер з 19 вузлів продемонстрував зростання пропускної здатності з приблизно 4 мільйонів токенів на секунду до 5 мільйонів токенів на секунду. Це становить 24% збільшення загальної продуктивності та 23% підвищення ефективності на ват.
Додаткові можливості та вигоди
NVIDIA також розкрила дані щодо збільшення кількості GPU в стійках Vera Rubin та Groq 3 LPX. В рамках однакового енергетичного бюджету кількість GPU могла бути збільшена до 40%. Це дозволило підвищити пропускну здатність токенів до 35% без необхідності розширення існуючих ліній електропередач.
У специфічному сценарії з контекстом 100K та робочим навантаженням Qwen 3.8 27B, стійка Groq 3 LPX показала вражаючі результати: 2529 вихідних токенів на користувача за секунду.
Ранні випробування з іншими AI-компаніями
Кілька провідних AI-компаній вже взяли участь у ранніх тестах з використанням нової технології, зокрема, з Vera CPU. Результати виявилися надзвичайно позитивними:
- Продуктивність зросла в 1.9 рази.
- Загальна пропускна здатність збільшилася на 73%.
- Пропускна здатність для завдань запитів зросла в 3.3 рази.
Інші компанії також відзначили значні покращення:
- Perplexity: прискорення запуску пісочниці SPACE у 1.9 рази.
- DeepInfra: зменшення затримки на кроках оркестрації у 2.2 рази.
- Redpanda: зменшення затримки в 5.5 рази та збільшення пропускної здатності на 73% порівняно з іншими CPU.
- Starburst: зростання пропускної здатності запитів у 3 рази.
- Kinetica: покращення продуктивності аналітичних запитів у 2.7 рази.
Ці результати підкреслюють потенціал технології DSX MaxLPS від NVIDIA у підвищенні ефективності та продуктивності AI-інфраструктур, особливо в умовах зростаючого попиту на обчислювальні потужності та необхідності оптимізації енергоспоживання.
Джерело: https://www.ithome.com/1/003/557.htm
