Блог

May 25, 2023

Джетсон получает ракетный импульс: руки

Прошло шесть месяцев с тех пор, как Дженсен Хуанг из NVIDIA вышел на сцену в области графических процессоров.

Прошло шесть месяцев с тех пор, как Дженсен Хуанг из NVIDIA вышел на сцену на конференции GPU Technology Conference (GTC) '22 и представил высокопроизводительную маломощную систему-на-модуле Jetson Orin Nano (SOM), ориентированную на искусственный интеллект (ИИ) в край. Сейчас GTC '23 — и Хуанг снова на сцене, на этот раз запуская комплект разработчика Jetson Orin Nano, который будет доступен немедленно.

Предлагая заявленную в 80 раз производительность Jetson Nano, новый Jetson Orin Nano призван вывести архитектуру графического процессора (GPU) Orin последнего поколения на начальный уровень — но сможет ли он выполнить высокие обещания компании?

Jetson Orin Nano SOM на самом деле доступен в двух вариантах, один из которых фактически вдвое уступает по производительности другому. Jetson Orin Nano 4 ГБ начального уровня имеет, как следует из названия, 4 ГБ памяти LPDDR5 с пропускной способностью 32 ГБ/с, шестиядерный процессор Arm Cortex-A78AE, работающий на частоте до 1,5 ГГц, и графический процессор Orin с 512 ядрами CUDA и 16 тензорных ядер, обеспечивающих заявленную производительность вычислений INT8 20 тераопераций в секунду (TOPS). Jetson Orin Nano 8 ГБ, напротив, удваивает емкость и пропускную способность встроенной памяти, а также количество ядер CUDA и Tensor в графическом процессоре, но оставляет процессор в покое, обеспечивая заявленную производительность 40 TOPS.

Для тех, кто хочет купить комплект разработчика, разница неочевидна: он доступен только с предварительно включенным Jetson Orin Nano 8 ГБ. Несущая плата, в которую был предварительно установлен SOM, технически поддерживает либо SOM, либо даже один из высококлассных SOM Jetson Orin NX — но это тоже спорный вопрос, поскольку вы не можете купить несущую плату за пределами США. комплект разработчика.

Компактная несущая плата сама по себе раскрывает наиболее важные функции Jetson Orin Nano SOM. Имеется один видеовыход DisplayPort 1.2, четыре порта USB 3.2 Gen. 2 Type-A, порт Gigabit Ethernet и порт USB Type-C — не для питания, которое осуществляется через комплектный блок питания на 45 Вт и разъем постоянного тока, но для отладки и работы USB-устройства.

Слева от основных портов расположены два 22-контактных порта последовательного интерфейса камеры MIPI (CSI), которые можно использовать вместо или в дополнение к USB-камерам. Справа находится заполненный 40-контактный разъем ввода-вывода общего назначения (GPIO), который включает поддержку UART, SPI, I2C, I2S и широтно-импульсной модуляции (PWM). Также имеется разъем с ШИМ-регулированием скорости для радиатора и вентилятора в комплекте, а также 12-контактный разъем для внешнего управления кнопками, расположенный несколько неудобно под верхним краем SOM.

Переверните плату, и вы обнаружите последние возможности расширения: слот microSD, почти незаметно скрытый под верхним краем SOM, слот M.2 Key E, предварительно заполненный модулем Wi-Fi 802.11ac, и два Слоты M.2 Key M с четырьмя и двумя линиями PCI Express (PCIe) Gen. 3 соответственно — но учтите, что один ограничен короткими модулями размера 2230, а другой предлагает точку крепления только для модулей 2280.

Громкое заявление NVIDIA заключается в том, что Jetson Orin Nano обеспечивает «80-кратную производительность искусственного интеллекта» по сравнению со старым и значительно более дешевым Jetson Nano — и это технически верно, но с большой оговоркой. Расчеты NVIDIA основаны на необработанных вычислениях с использованием точности FP16 на Jetson Nano и точности INT8 на Jetson Orin Nano. Используя точность FP32 на обоих устройствах, для равных условий выигрыш падает с 80x до все еще впечатляющих 5,4x — хотя сравнение INT8 и FP16 по-прежнему является разумным сравнением, поскольку поддержка точности INT8 будет важной причиной. для обновления до нового устройства.

Однако это не значит, что нет никакого улучшения по сравнению с поддержкой INT8 — в конце концов, этот прирост FP32 в 5,4 раза должен откуда-то взяться. Помимо перехода на новую, более мощную архитектуру графического процессора, Jetson Orin Nano имеет в восемь раз больше ядер CUDA, чем Jetson Nano, плюс 32 ядра Tensor для наглядности. Процессор также перешел на новую архитектуру Arm Cortex, может похвастаться двумя дополнительными ядрами, работающими с немного более высокой тактовой частотой, а также удвоенным объемом памяти с переходом на LPDDR5, обеспечивающим более чем в два с половиной раза большую пропускную способность.