ШІ-прискорювач Intel Gaudi2 на 55% швидший за Nvidia H100
Компанія Stability AI порівняла продуктивність трьох прискорювачів обчислень для центрів обробки даних: Nvidia H100 Hopper, A100 Ampere та Intel Gaudi2.
Про це повідомляє TechPowerUp.
За результатами тестів, прискорювач Gaudi2 виявився абсолютним лідером, демонструючи продуктивність на 56% вищу, ніж Nvidia H100.
Різницю в продуктивності можна пояснити тим, що Intel Gaudi2 спеціально спроектований для прискорення генеративного ШІ та великих мовних моделей.
У тестах, де взяли участь пари кластерів, кожен забезпечував по 16 прискорювачів, системи на Intel Gaudi2 здатні були генерувати 927 зображень за секунду, порівняно з 595 зображеннями для прискорювачів H100 та 381 зображеннями для масиву A100.
Інша важлива перевага Gaudi2 полягає у його здатності працювати з більшими об'ємами даних, що робить це рішення конкурентоспроможним у цифровому світі. За словами представників Stability AI, компанія планує використовувати прискорювач Gaudi2 в Stability Cloud завдяки його швидкості та ефективності.
Хоча застосування оптимізації TensorRT на чипах A100 дозволяє створювати зображення до 40% швидше, ніж на Gaudi2, дослідники вважають, що за подальшої оптимізації Gaudi2 може перевершити A100.
За даними раніше проведених тестів моделі Stable Diffusion XL, Intel Gaudi2 продемонстрував найкращі результати, генеруючи зображення розміром 1024×1024 швидше, ніж конкуренти.
