Компанія Nvidia представила оновлений модуль Blackwell Ultra GB300 NVL72, який став наступним кроком у розвитку популярної архітектури Blackwell. Технічний прогрес у цьому пристрої полягає не лише у збільшенні обсягу пам’яті, а й у впровадженні значно більш швидкої пам’яті HBM3e з підвищеною пропускною здатністю. Саме це дозволило досягти суттєвого приросту продуктивності у порівнянні з попередньою моделлю GB200.
Про це розповідає KURAZH
Покращення пам’яті та ефективність з довгими контекстами
GB300 зберігає основні риси архітектури Blackwell, але отримав суттєві доопрацювання у підсистемі пам’яті. Перехід на нову HBM3e з більшим обсягом критично важливий для задач із великими мовними моделями, які нині вимагають обробки значних обсягів даних. Ключова особливість — оптимізація для роботи з довгими контекстами: мова йде про обробку великих фрагментів тексту або кодових баз за один цикл, що стає все більш актуальним у сфері штучного інтелекту. Порівняльні тести з GB200 підтвердили, що Blackwell Ultra демонструє перевагу навіть за базових сценаріїв виводу (inference).
Вражаючі показники тестів і перспективи для дата-центрів
Для тестування GB300 була використана модель DeepSeek — одна з найефективніших сучасних архітектур. За результатами дослідження Large Model Systems Organization (LMSYS), модуль GB300 забезпечив приріст продуктивності в діапазоні від 33% до 53% у порівнянні з GB200. Особливо показовим є прискорення обробки запитів: швидкість зросла у 1,87 раза, що дозволяє майже вдвічі швидше отримувати відповіді у системах реального часу.
“Згідно з даними LMSYS, приріст продуктивності GB300 порівняно з GB200 склав від 33% до 53%. Але найцікавіше інше: швидкість обробки запитів зросла в 1.87 раза. Це означає, що користувачі отримуватимуть відповіді майже вдвічі швидше, що критично для сервісів реального часу”.
Однак інновації мають і свою ціну. Хоча на даний момент відсутні точні відомості щодо сукупної вартості володіння новим модулем, експерти прогнозують, що Blackwell Ultra не буде дешевим. Водночас для великих технологічних компаній ключовим фактором залишається енергоефективність і щільність обчислень на квадратний метр площі дата-центру. За цими параметрами GB300 NVL72 позиціонується як одна з найкращих платформ для реалізації складних проєктів на основі штучного інтелекту.
Паралельно із зростанням продуктивності виникають питання про ефективність використання ресурсів — зокрема води — у сучасних дата-центрах. Сем Альтман звернув увагу на обговорення щодо високих ресурсних витрат нових прискорювачів для ШІ, що стає все актуальнішою темою для галузі.
