Пакет програмного забезпечення AMD ROCm 6.3 пропонує додаткові передові інструменти для спрощення процесу розробки, забезпечуючи ще ліпшу продуктивність і масштабованість для робочих навантажень ШІ та HPC.

Серед основних особливостей ROCm 6.3 :

• SGLang, спеціально розроблений для оптимізації інференції найсучасніших генеративних моделей, таких як LLM і VLM, на графічних процесорах AMD Instinct. Досягається до шести разів вища пропускна здатність при інференції на LLM.

• Оптимізація трансформерів нового рівня. FlashAttention-2, оптимізований для ROCm 6.3, прискорює навчання моделей трансформерів та інференції у 3 рази, скорочуючи час виведення на ринок корпоративних систем ШІ.

• Компілятор AMD Fortran спрощує прискорення графічного процесора для застарілих HPC-додатків, пропонуючи пряме вивантаження, зворотну сумісність і легку інтеграцію без значних змін коду.

• Нове багатовузлове ШПФ у rocFFT. Підтримка багатовузлового ШПФ забезпечує високопродуктивні обчислення ШПФ на великих наборах даних, підвищуючи ефективність і швидкість ухвалення рішень у таких галузях, як нафтогазова промисловість та наукові дослідження.

• Розширені бібліотеки комп'ютерного зору. Розширені бібліотеки зору, включно з AV1 і rocJPEG, дозволяють розробникам створювати передові рішення ШІ для різноманітних робочих навантажень, таких як відеоаналітика та доповнення наборів даних. Це корисний інструмент для цілого спектру галузей, від масмедіа та розваг до автономних систем.

Завдяки відкритому вихідному коду та постійному розвитку для задоволення потреб розробників, AMD продовжує надавати компаніям можливість швидше впроваджувати інновації та масштабуватися.