Исторически проводимые компанией мероприятия GPU Technology Conference (GTC) были сфокусированы на разработчиках, геймерах, специалистах по данным, автопроизводителях и других отраслях промышленности, которые использовали основной продукт NVIDIA — GPU. Но за последние несколько лет компания сделала ряд шагов, как путем приобретений, так и внутренних разработок, чтобы расширить свою экспертизу на другие типы чипов.

Обсудим несколько ключевых объявлений, которые NVIDIA сделала на апрельской GTC 2021.

NVIDIA выходит на рынок CPU с Project Grace

Исторически сложилось так, что NVIDIA всегда фокусировалась на GPU, но никогда не оспаривала ценность CPU. Не секрет, что рост производительности согласно закону Мура заканчивается и производительность CPU выходит на плато. Существуют некоторые теории о том, как перезапустить закон Мура, в том числе путем отказа от самого кремния. На нынешней GTC NVIDIA объявила о проекте Project Grace, названном в честь Грейс Хоппер, ставшей пионером компьютерного программирования в 1950-х. Целью Grace является устранение многих ограничений традиционной архитектуры x86.

Преимуществом x86 является возможность варьирования серверных конфигураций CPU, памяти, PCI Express и периферийных устройств для удовлетворения потребностей приложений. Однако обработка больших объемов данных была и остается проблемой. Это особенно актуально для систем рекомендаций и является основной причиной того, что лидер в области CPU Intel не может захватить рынок ИИ.

Grace расшивает узкие места

СЕО NVIDIA Дженсен Хуанг проиллюстрировал такое узкое место на примере, когда CPU с 3-кратно большим объемом памяти работает в 40 раз медленнее, чем GPU. Почему? Ответ кроется в архитектуре, где данные, обрабатываемые CPU, должны проходить через шину PCI Express, что делает ее узким местом. С помощью технологии NVLink, созданной NVIDIA, можно обрабатывать данные на нескольких GPU одновременно.

Именно такая концепция лежит в основе Grace, где архитектура специально создана для ускоренных вычислений и обработки больших объемов данных, необходимых для ИИ. Grace использует ARM-процессоры, разработчика которых сейчас приобретает NVIDIA, и NVLink для создания намного более быстрой производительности CPU.

Если быть точным, то Grace не является заменой CPU в ПК. Это узкоспециализированный процессор, нацеленный на рабочие нагрузки, такие как NLP-модели, которые имеют миллиарды или даже триллионы параметров. NVIDIA утверждает, что при объединении Grace с ее GPU система обеспечит 10-кратное увеличение производительности по сравнению с сопоставимыми x86-системами. Учитывая опыт компании в построении ускоренных вычислительных систем, это, безусловно, выглядит обоснованным.

NVIDA объявляет о выпуске DPU BlueField-3

В прошлом году компания объявила о выпуске сопроцессора обработки данных (DPU). Для тех, кто не знаком с DPU: аналогией может служить сетевая карта (NIC), которая используется для разгрузки многих задач CPU. Выгружая эти функции, серверный CPU может справляться с бóльшим количеством рабочих нагрузок. В традиционных системах сетевая карта выполняет основные сетевые задачи и оставляет CPU выполнение таких задач, как обеспечение безопасности, программно-определяемое хранение и др.

В октябре прошлого года NVIDIA объявила о выпуске DPU BlueField-2 и 2X. Сейчас компания представила BlueField-3 — первый DPU, предназначенный для ИИ и ускоренных вычислений. Эта карта оптимизирована для работы в многопользовательских нативных облачных средах и предлагает программно-определяемые аппаратно-ускоренные возможности для сети, хранения, безопасности и управления на ЦОД-скоростях. Один BlueField-3 обладает вычислительными возможностями 300 процессорных ядер, высвобождая драгоценные циклы серверного процессора.

Новый DPU будет иметь 16 ядер ARM A78 и обеспечивать пропускную способность 400 Гбит/с. Он также будет включать аппаратные ускорители для хранения, сети, кибербезопасности, потоковой передачи данных, линейного шифрования и синхронизации времени в 5G-среде. Для сравнения: BlueField-2 содержит 8 ядер Arm A72 и обеспечивает производительность 200 Гбит/с.

Как сообщил Хуанг, BlueField-4 будет анонсирован в 2024 г.

Синергетика ускоряет инновации

Но NVIDIA не ограничивается аппаратным обеспечением. Набор для разработки программного обеспечения DOCA позволяет разработчикам создавать сервисы с DPU-ускорением при помощи стандартизированных API. Именно комбинация аппаратного и программного обеспечения позволяет NVIDIA успешно конкурировать с Intel.

BlueField уже имеет большую партнерскую экосистему, включающую Dell Technologies, Inspur, Lenovo и Supermicro, которые интегрируют BlueField в свои системы. Облачные провайдеры Baudu, JD.com и UCloud также объявили о том, что будут использовать DPU. Об их поддержке заявили поставщики систем безопасности Fortinet и Guardicore, а также поставщики Edge-систем Cloudflare, Juniper и F5.

Начав с GPU, NVIDIA выросла и распространила свой опыт на DPU и CPU, и сочетание этих трех компонентов будет способствовать ускорению инноваций. «Двадцать лет назад все это была научная фантастика. Десять лет назад это была мечта. Сегодня мы живем ею», — заявил Хуанг.


Источник: ITWeek