Компания Intel продемонстрировала ранее анонсированные нейроморфные процессоры для глубинного обучения и инференции из семейства Nervana. Это ASIC neural network processors (NNP) для обучения моделей нейростей – NNP-T1000 (кодовое имя Spring Crest), а также для запуска обученных моделей NNP-I1000 (Spring Hill). С новыми решениями уже знакомят партнеров.
Цель выпуска подобных решений – качественно увеличить производительность на узком круге задач, типичных для обработки нейросетей. К таким обносятся сверточные и матричные операции. При этом использование новинок позволяет снизить энергопотребление.
Модуль Nervana NNP-T выполнен в виде карты PCIe 4.0 x16 либо OAM. Основной вычислительный элемент NNP-T – Tensor Processing Cluster (TPC), осуществляющий матричные операции. В данной реализации таких блоков 24. Производительность составляет 119 TOPS, а энергопотребление модуля – порядка 150-240 Вт.
На одном сервере (ноде) может быть установлено до 8 карт, максимальная масштабируемость — до 1024 нодов в системе.
При проектировании Intel Nervana NNP-I преследовалась цель обеспечить максимальную энергоэффективность при инференсе (Inference – логический вывод, прим. ред.) в масштабах больших ЦОДов — порядка 5 TOP/Вт. По сути – это модифицированный процессор x86 поколения Ice Lake (10 нм) c добавлением 12 специализированных ядер Inference Compute Engine (ICE). Максимальная производительность составляет 92 ТОРS, TDP — 50 Вт. Конструктивно устройство выполнено в виде карты расширения М.2.
Предоставляется возможность удаленно протестировать Nervana на сервисе Intel DevCloud. В планах компании также представить фреймворки для разработчиков AI-решений на базе этих систем.
Как заявляют в Intel, эти продукты усилят портфолио ИИ-решений компании, на которые в 2019 г. предположительно придется свыше 3.5 млрд долл. в её общей выручке.
Также к следующему году Intel планирует выпустить специализированные видеопроцессоры (VPU) Intel Movidius для медиа-приложений и компьютерного зрения.
