NVIDIA представила платформу NVIDIA Blackwell, яка дозволяє запускати генеративні ШІ на базі великих мовних моделей (LLM) із трильйонами параметрів. І це все у 25 разів дешевше та енергоефективніше за попередні аналоги.

Графічні процесори архітектури Blackwell містять 208 мільярдів транзисторів, виготовляються за спеціальним 4-нм техпроцесом TSMC із двома граничними матрицями GPU, з’єднаними між собою каналом зв’язку 10 Тбіт/сек в єдиний уніфікований графічний процесор.

Платформа працює як єдиний графічний процесор із продуктивністю ШІ 1,4 екзафлопс і 30 ТБ швидкої пам’яті.

Завдяки новій підтримці масштабування мікротензорів і передовим алгоритмам управління динамічним діапазоном NVIDIA, інтегрованим у фреймворки NVIDIA TensorRT-LLM і NeMo Megatron, Blackwell підтримуватиме вдвічі більші розміри обчислень і моделей з новими можливостями штучного інтелекту з плаваючою комою на основі 4-бітних обчислень.

«Протягом трьох десятиліть ми працювали над прискореними обчисленнями, щоб зробити можливими такі революційні прориви, як глибоке навчання та ШІ,  –сказав Дженсен Хуанг, засновник і генеральний директор NVIDIA. – Генеративний ШІ – це визначальна технологія нашого часу. Blackwell – це двигун цієї нової промислової революції. Працюючи з найдинамічнішими компаніями світу, ми реалізуємо потенціал ШІ для кожної галузі».

Суперчип NVIDIA GB200 Grace Blackwell – це поєднання NVIDIA B200 Tensor Core із центральним процесором NVIDIA Grace.

Для досягнення найвищої продуктивності ШІ системи на базі GB200 можна підключати до платформ NVIDIA Quantum-X800 InfiniBand та Spectrum-X800 Ethernet, які забезпечують передову мережеву взаємодію на швидкості до 800 Гбіт/с.

Платформа GB200 є ключовим компонентом NVIDIA GB200 NVL72, багатовузлової системи з рідинним охолодженням, призначеної для найінтенсивніших обчислювальних навантажень. Вона об’єднує 36 суперчипів Grace Blackwell, які включають 72 графічні процесори Blackwell та 36 центральних процесорів Grace, з’єднаних між собою за допомогою NVLink п’ятого покоління.

Крім того, GB200 NVL72 містить блоки обробки даних NVIDIA BlueField-3, які забезпечують прискорення хмарної мережі, композитне зберігання даних, безпеку та еластичність обчислень на GPU у гіпермасштабних хмарах ШІ.

GB200 NVL72 забезпечує приріст продуктивності до 30 разів у порівнянні з такою ж кількістю графічних процесорів NVIDIA H100 Tensor Core для робочих навантажень виводу LLM, а також знижує вартість і споживання енергії до 25 разів.

Серед багатьох організацій, які, як очікується, перейдуть на Blackwell, – Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla і xAI.