В рамках форуму Intel Vision 2024 компанія презентувала графічний акселератор Gaudi 3 AI. Новий прискорювач забезпечить роботу систем штучного інтелекту з десятками тисяч акселераторів, підключених через загальний стандарт Ethernet. Intel Gaudi 3 обіцяє в 4 рази більше обчислень ШІ для BF16 та в 1,5 рази більшу пропускну здатність пам'яті порівняно з попередником (Gaudi 2). Прискорювач забезпечить значний стрибок у навчанні та розвитку ШІ для глобальних підприємств, які прагнуть розгорнути GenAI у великих масштабах.

Прогнозується, що в порівнянні з Nvidia H100, Intel Gaudi 3 в середньому на 50% скоротить час навчання на моделях Llama2 з параметрами 7B і 13B, а також на моделі GPT-3 з параметрами 175B. Крім того, очикується, що продуктивність прискорювача виведення Intel Gaudi 3 перевершує H100 в середньому на 50% і на 40% за енергоефективністю виведення в середньому в моделях Llama з параметрами 7B і 70B, а також Falcon з параметрами 180B. 

Intel Gaudi 3 надає відкрите програмне забезпечення та мережу Ethernet галузевого стандарту. Він дозволяє підприємствам гнучко масштабувати від одного вузла до кластерів, суперкластерів і мегакластерів з тисячами вузлів, підтримуючи аналіз, тонке налаштування і навчання в найширших масштабах.

Intel Gaudi 3 буде доступний для OEM-виробників, включаючи Dell Technologies, Hewlett Packard Enterprise, Lenovo і Supermicro, у другому кварталі 2024 року.