Компанія AMD анонсувала новий графічний прискорювач Instinct MI300X, призначений для систем генеративного штучного інтелекту (generative AI) та створення та використання моделей Large Language Model (LLM).
Прискорювач побудований на базі архітектури AMD CDNA 3 і має 304 обчислювальних модуля CU та 192 Гбайт пам'яті HBM3 з піковою пропускною здатністю 5.3 Тбайт/сек. Це на 40% більше CU, в 1,5 рази більше пам'яті та в 1,7 рази більше пропускної здатності, ніж у попереднього покоління прискорювачів Instinct MI250X. Крім того, новинка підтримує формати вихідних даних FP8 та sparsity.
AMD стверджує, що платформа Instinct Platform з 8 прискорювачами MI300X працює до 1,6 разів швидше при обробці даних за допомогою LLM, ніж випущена в листопаді платформа H100 HGX від Nvidia.
Компанія також представила модуль Accelerated Processing Unit (APU) Instinct MI300A, який складається з 228 обчислювальних модулів CU з архітектурою CDNA 3 і 24 ядер центрального процесора (CPU) з архітектурою Zen 4. Цей пристрій призначений як для високопродуктивних обчислень, так і AI.