NVIDIA представила чип H200 — надпотужний прискорювач для ШІ
Компанія NVIDIA анонсувала графічний процесор H200, призначений для навчання та розгортання моделей штучного інтелекту.
Характеристики чипа NVIDIA H200
За даними NVIDIA, H200 оснащений 141 Гб пам'яті HBM3e з пропускною здатністю 4,8 Тб/с. Це майже удвічі більший об'єм і у 2,4 раза вища швидкість передавання даних порівняно з попереднім чипом компанії A100.
Завдяки підвищенню продуктивності пам’яті H200 істотно пришвидшиться робота вже навчених систем штучного інтелекту. Зокрема, NVIDIA обіцяє збільшення швидкодії великої мовної моделі Llama 2 у 1,9 раза у порівнянні з H100.
H200 буде доступний у серверних конфігураціях з чотирма або вісьмома графічними процесорами. Також чип сумісний із H100, тому не потребує заміни наявних систем.
Новинка також буде доступна у вигляді чипа під назвою GH200, який об’єднує графічний процесор H200 з процесором на базі архітектури Arm.
Дата виходу та ціна чипа NVIDIA H200
Вихід новинки очікують у другому кварталі 2024 року. Вартість H200 невідома, але H100 коштує від $25 тис. до $40 тис.
Раніше SPEKA писала, що NVIDIA випустить ШІ-прискорювачі для Китаю із зниженою продуктивністю.
