NVIDIA анонсировала ускоритель ИИ H200 и суперкомпьютер Jupiter
Компания NVIDIA анонсировала на выставке SC23 ускоритель H200 с памятью HBM3E и суперкомпьютер Jupiter, выпуск которых запланирован на 2024 год. H200, обновленная версия ускорителя H100, будет оснащаться более быстрой и емкой памятью HBM3E, что повысит его производительность в рабочих нагрузках с ограниченной пропускной способностью памяти. Это обновление особенно полезно для генеративных программ искусственного интеллекта, поскольку самым большим языковым моделям уже недостаточно 80 ГБ памяти в H100.
H200 базируется на том же графическом процессоре GH100, что и оригинальная модель H100, но включает в себя 6-й стек памяти HBM, который ранее был отключен у H100. Это изменение увеличивает объем памяти H200 с 80 ГБ до 141 ГБ и повышает пропускную способность с 3,35 ТБ/с до ожидаемых 4,8 ТБ/с. Память H200 будет работать со скоростью примерно 6,5 Гбит/с, что на 25% выше чем у памяти HBM3 H100 (5,3 Гбит/с).
NVIDIA также анонсировала платформу HGX H200, обновленную версию HGX H100 с новым ускорителем. Она служит основой семейства NVIDIA H100/H200, позволяя OEM-производителям кастомизировать высокопроизводительные серверы. Платы HGX 200 являются кросс-совместимыми с платами H100, что обеспечивает плавный переход для сборщиков серверов.
Кроме того, NVIDIA представила Quad GH200, 4-узловую плату Grace Hopper GH200, созданную в качестве строительного блока для больших систем. Каждый узел Quad GH200 предлагает 288 процессорных ядер Arm и 2,3 ТВ высокоскоростной памяти.
Суперкомпьютер Jupiter, по контракту с Eviden и ParTec, будет построен из 23 762 узлов GH200 и, как ожидается, станет самым большим суперкомпьютером на основе технологии Hopper. Он будет предлагать 93 EFLOPS низкоточной производительности для ИИ и более 1 EFLOPS высокоточной производительности для традиционных рабочих нагрузок HPC. Jupiter потребляет 18,2 мегаватта электроэнергии, а его установка запланирована на 2024 год в Исследовательском центре Юлиха в Германии.
