Акселераторы нейронной сети серии UP AI CORE X на базе Intel Movidius от компании AAEON

Опубликовано в номере:
PDF версия
Основанная в 1992 г. компания AAEON (AAEON Technology Co., Ltd., Тайвань) — один из ведущих разработчиков и производителей современных промышленных и встраиваемых вычислительных платформ. Обладает сертификатами, которые подтверждают высокий уровень реализованной в ней системы обеспечения качества: ISO 9001:2000 QMS, TL 9000:R3.0 QMS, ISO 14001:1996 EMS, CE и FCC. Компания предоставляет интегрированные решения Industry 4.0, аппаратные средства и интеллектуальные автоматизированные сервисы для OEM/ODM-производителей и системных интеграторов по всему миру, а также платформы под решения IoT, объединяющие виртуальные и физические сети и облачные ноу-хау. В 2011 г. компания AAEON стала членом группы ASUS. Сегодня AAEON предлагает разнообразные встраиваемые продукты и решения, в том числе акселераторы нейронной сети, рассмотренные в данной статье.

Общие сведения о компании

Надежные высококачественные вычислительные платформы от AAEON включают промышленные материнские платы и системы, промышленные дисплеи, прочные планшеты для специализированных применений, модули PC/104, PICMG и COM, встраиваемые одноплатные компьютеры, встраиваемые контроллеры, сетевые устройства и связанные с ними акселераторы и аксессуары. Также AAEON предлагает индивидуальные сквозные услуги — от первоначальной концептуальной разработки инновационных продуктов до серийных и послепродажных сервисных программ. Современные решения AAEON отвечают реальным потребностям рынков «умного» ритейла, транспорта, промышленной автоматизации, сетевой безопасности и защищенных планшетов.

Производственные мощности AAEON расположены в Тайбэе (Тайвань) и в Су Чжоу (Китай). Чтобы стать одним из ведущих поставщиков промышленных компьютеров, компания создала систему производства с гибкими возможностями компоновки и расширения, оперативно удовлетворяющими спорадический спрос на увеличение производственных возможностей. Этот подход позволил AAEON обеспечить надежные позиции в автоматизации машинного и фабричного парков, а также в химической промышленности и на транспорте. Значительная часть разработок компании базируется на управляющем ядре Intel, и AAEON является ассоциированным членом Intel Internet of Things Solutions Alliance.

Также, создав собственную систему EMI/EMC-тестирования и отладки, компания активно вкладывает средства в НИОКР. Компанией AAEON создан и успешно ведет прикладные исследования и разработки специализированный НИИ, в штате которого насчитывается 860 постоянных сотрудников.

 

Основная компетенция

Наиболее востребованные российским рынком продукты AAEON — это специализированные компьютеры, в основном безвентиляторные одноплатные компьютеры (SBC) и компьютеры для специальных применений, встраиваемые процессорные модули (платы) и платы расширения к ним, в том числе платы акселераторов. Эксклюзивные решения, их малые и средние серии, составляют до 75% оборота компании.

SBC предназначены для оптимизации процессов промышленной автоматизации, таких как распределенное управление промышленными предприятиями и управление функционированием и жизненным циклом ответственных систем и изделий. Они могут эксплуатироваться как в стационарных условиях, так и на подвижных объектах. Встраиваемые решения от AAEON надежны, гибки, неприхотливы в обслуживании и являются оптимальным выбором для реализации архитектуры машинного зрения. ЦП, DRAM и используемые в SBC мини-карты доступны, легко интегрируются, и поэтому каждый встраиваемый компьютер предоставляет широкий спектр возможностей расширения для реализации специализированных приложений.

Особый интерес представляет семейство Kaby Lake Family, построенное на базе Intel 7th Gen Core (прежнее название Kaby Lake). На его основе AAEON предлагает четыре линейки продуктов: COM Express, PICO, GENE и EPIC. Они оснащены новым процессором Intel XEON E3v6 серии U, со сниженной потребляемой мощностью, при этом обеспечивающим повышенную на 20% производительность в сравнении с предыдущей платформой. COM-KBHB6 и EPIC-KBS7 созданы для «тяжелых» вычислений, максимальной производительности, имеют большой набор портов ввода/вывода, в то время как GENE-KBU6, PICO-KBU1 и NANOCOM-KBU являются миниатюрными платами, хорошо подходящими для небольших корпусов и устройств, а также для работы и обеспечения целостности данных в сложных условиях эксплуатации. Платы GENE и EPIC обладают улучшенными возможностями подключения, поскольку построены на основе расширенного числа слотов ввода/вывода. Это делает их оптимальными для применения в многофункциональных решениях, в том числе в беспилотном транспорте и в банкоматах, в устройствах промышленной автоматизации и управления, в шлюзовых системах IoT, в корпоративном ядре вендинговых устройств, в системах безопасности и на транспорте.

В дополнение к набору основных функциональных возможностей одноплатные компьютеры AAEON содержат множество уникальных функций и опций, повышающих удобство их использования и адаптации. К ним относятся конвертируемый интерфейс дисплея (в том числе поддержка независимой работы нескольких дисплеев) и расширенный рабочий температурный диапазон (WiTAS) –40…+85 °C, а также интерфейс AAEON BIO-Board, предназначенный для упрощения процессов аппаратного обновления и настройки пользовательских решений.

В линейке решений UP Board и UP AI Edge, предназначенной для специализированных применений (массовый продукт, на текущий момент составляет до 25% оборота), компания AAEON выпускает четыре новых компактных одноплатных компьютера — UP Board, UP Squared, UP Core и UP Core plus, имеющих низкое энергопотребление при достаточно высокой производительности, и широкий спектр плат расширения. UP Board и UP Squared отличаются мощными графическими возможностями, благодаря которым могут быть использованы при создании медиацентров и мультимедийных устройств, а также охранных устройств с распознаванием лиц. UP Core и UP Core plus ориентированы на применение в компактных расширяемых решениях, включающих системы машинного зрения и искусственного интеллекта на базе машинного обучения. Для подключения к мониторам или плазменным панелям в этой линейке предусмотрен композитный видеовыход или разъем HDMI.

 

Акселераторы нейронной сети UP AI CORE и UP AI CORE X

Наряду с уже завоевавшим популярность акселератором UP AI Core, созданным на основе Intel Movidius Myriad 2, компания AAEON представляет в этом году полную линейку ускорителей нейронных сетей серии UP AI Core X — «краевых» вычислительных модулей, представляющих собой периферийные аппаратные акселераторы Deep Neural Networks.

Акселераторы линейки AI Core X (рис. 1) созданы на основе недавно выпущенного процессорного ядра Intel Movidius Myriad X, представляющего собой чипированный модуль обработки изображений (VPU) третьего поколения, который первым в своем классе содержит Neural Compute Engine — аппаратный ускоритель для глубоких нейронных сетей, обучаемый с помощью стандартных инструментов.

Акселераторы нейронной сети серии UP AI Core X (слева направо: UP AI Core X, UP AI Core XM 2230, UP AI Core XM 2242, UP AI Core XM 2280 и UP AI Vision Plus X*)

Рис. 1. Акселераторы нейронной сети серии UP AI Core X (слева направо: UP AI Core X, UP AI Core XM 2230, UP AI Core XM 2242, UP AI Core XM 2280 и UP AI Vision Plus X*)

Каждый чип Intel Movidius Myriad X (табл. 1) способен выполнять до 4 трлн операций/с (TOPS). Благодаря этому линейка UP AI Core X обеспечивает высокую производительность современных приложений компьютерного зрения и искусственного интеллекта при сверхнизком энергопотреблении (до нескольких ватт). Основанные на новом чипе акселераторы дают примерно 10-кратное увеличение производительности в сравнении с предыдущим поколением VPU (речь о чипе Movidius Myriad 2, использованном в плате акселератора AI Core). Новые платы доступны с одним или несколькими чипами Movidius Myriad X в различных форм-факторах — MiniCard/mPCIe, M.2 2230, M.2 2242, M.2 2280 и в настраиваемых форм-факторах. Наряду с ними разработчикам предлагается плата AI Vision Plus X, размером с кредитную карту, с тремя встроенными чипами Intel Movidius Myriad X. Использование нескольких чипов Myriad X существенно повышает быстродействие системы и расширяет ее возможности.

Таблица 1. Сравнение чипов Myriad 2 с Myriad X

 

Myriad 2 (MA2450)

Myriad X (MA2485)

Вычислительная мощность

>1 TOPS*

>4 TOPS*

Техпроцесс

28 нм HPC+/HPC/HPM (TSMC)

16 нм FFC (TSMC)

Примечание. *TOPS – триллион операций в секунду.

Независимо от того, создает ли пользователь систему автоматизации для гипермаркета, помогающую идентифицировать и подсчитывать элементы в потребительской корзине клиента, либо упреждающую систему безопасности в аэропортах, позволяющую оставлять багаж без присмотра (идентифицировать его принадлежность определенному лицу), систему управления транспортными потоками, способную отслеживать пробки на дорогах перед автономными транспортными средствами или сами беспилотные транспортные средства, — с помощью семейства акселераторов UP AI Core X можно напрямую встраивать в собственные решения высокую вычислительную мощность в режиме реального времени.

Процессоры Intel Movidius обеспечивают высокую производительность современного компьютерного зрения и приложений AI при сверхнизкой мощности. Благодаря сочетанию высокоскоростных параллельных программируемых вычислений с аппаратным ускорением, зависящим от рабочей нагрузки, и совместному размещению этих компонентов в общей интеллектуальной памяти, Movidius позволяет получить отличный баланс энергоэффективности и высокой производительности. Технология Movidius помогает производителям устройств развертывать глубокие нейронные сети и приложения для компьютерного зрения для таких устройств, как смартфоны, беспилотные летательные аппараты и наземный транспорт, интеллектуальные камеры и устройства с дополненной реальностью.

На базе Intel Movidius Myriad 2 VPU 2450 реализованы акселераторы нейронной сети Neural Compute Stick (производства Intel, оснащен разъемом USB) и UP AI Core (компактная плата в форм-факторе Mini PCI-Express (51×30 мм) с mini-PCIe разъемом) (рис. 2).

 Акселераторы нейронной сети Neural Compute Stick и UP AI Core

Рис. 2. Акселераторы нейронной сети Neural Compute Stick и UP AI Core

На основе Intel Movidius Myriad X VPU 2485 создано семейство акселераторов UP AI Core X (Neural Accelerator Family) — UP AI Core X, UP AI Core XM 2230, UP AI Core XM 2242, UP AI Core XM 2280 и UP AI Vision Plus X* (рис. 1, табл. 2).

Таблица 2. Основные технические характеристики акселераторов UP AI Core X

VPU (тип акселератора Myriad X SoCs)

UP AI Core X

UP AI Core XM 2230

UP AI Core XM 2242

UP AI Core XM 2280

UP AI Vision Plus X*

Intel Movidius Myriad X 2485

Intel Movidius Myriad X 2485

Intel Movidius Myriad X 2485

Intel Movidius Myriad X 2485

Intel Movidius Myriad X 2485

Количество VPU

1

1

1

2

3

Форм-фактор

mPCIe

M.2 2230 E key

M.2 2242 B+M key

M.2 2280 B+M key

Размер кредитной карты

Размеры, мм

51×30

22×30

22×42

22×80

90×56,5

Поддерживаемые платформы для разработки

Caffe, TensorFlow

Caffe, TensorFlow

Caffe, TensorFlow

Caffe, TensorFlow

Caffe, TensorFlow

Память

4 Гбайт, LPDDR4

4 Гбайт, LPDDR4

4 Гбайт, LPDDR4

4 Гбайт, LPDDR4

4 Гбайт, LPDDR4

Термический фактор

Радиатор без вентилятора

Радиатор без вентилятора

Радиатор без вентилятора

Радиатор с вентилятором

Радиатор с вентилятором

Другое

GPIO reset

GPIO reset

GPIO reset

GPIO reset

GPIO reset

Базовый одноплатный компьютер

UP Core, UP Squared

UP Squared, PICO-KBU4, PICO-APL4 и PICO-APL3

PICO-KBU4

PICO-KBU4, PICO-APL4 и PICO-APL3

UP Core Plus

Системные требования

Компьютер x86_64, работающий под управлением Ubuntu 16.04, 4 Гбайт оперативной памяти, свободный слот расширения

Программные средства

Intel Movidius Neural Stick SDK & Neural Compute SDK Documentation (NCS SDK), инструментарий OpenVINO

Плата UP AI Core поддерживает структуры TensorFlow, Caffe, совместима с SDK Intel Movidius Neural Stick и оптимизирована для работы с компьютерами x86_64 и SBC, оснащенными слотом mini-PCIe и управляемым Ubuntu 16.04.

Дополнительный бонус для разработчиков: семейство продуктов UP AI Core X совместимо с приложениями OpenVINO Toolkit, позволяющими ускорить глубокое обучение и оперативно преобразовывать данные видения в бизнес-идеи.

Кроме того, акселераторы серии UP AI Core X будут доступны в специализированных наборах для разработки, в которых рассматриваются различные сценарии применения, такие как розничная торговля (платформа разрабатывается в партнерстве с AIM2) и безопасность (платформа разрабатывается в партнерстве с Cortexica).

Возможность управлять обучаемыми сетями «на краю», ближе к данным — без поддержки облака (то есть без подключения к сети), которая пока еще кажется необходимой практически для каждой задачи, имеющей сложную интеллектуальную компоненту, — уменьшает барьеры для разработки, настройки и развертывания приложений машинного обучения. «Умные» объекты могут стать действительно «умными», а не просто клиентами, которые подключены к облачным сервисам, поддерживающим алгоритмы машинного обучения и работающим в мощных удаленных центрах обработки данных. Фактически предлагаемое решение должно стать началом кардинальных изменений в том, что мы думаем о машинном обучении, и в том, как может быть построен «Интернет вещей».

 

Реализация решений AI EDGE с помощью системы распознавания образов AI Core

AI Core способен реализовывать функционал распознавания объектов в таких продуктах, как беспилотные аппараты, высококачественные гарнитуры виртуальной реальности, робототехника, интеллектуальные домашние устройства, интеллектуальные камеры и решения для видеонаблюдения, а также другие интеллектуальные устройства.

Старт работ:

  • Необходимо на ПК (например, на одноплатный компьюетр UP Squared) установить Ubuntu 16.04 LTS.
  • Установить SDK с официального репозитория компании.
  • Экспортировать из Tensorflow или Caffe бинарный файл с графом весов нейросети.

Следует помнить, что последние версии Movidius и его SDK поддерживают только форматы Tensorflow или Caffe.

Далее рассмотрим создание собственных решений AI Edge на основе различных одноплатных компьютеров AAEON.

Создание собственных решений AI Edge на базе UP Squared

Минимальный набор, необходимый для старта работ по созданию собственной системы компьютерного видения, должен содержать одноплатный компьютер UP Squared и акселератор AI Core, построенный на базе Intel Movidius Myriad 2 VPU 2450 (рис. 3). Следует только добавить цифровую камеру с USB-разъемом — и можно приступать к реализации проекта. Для первоначального макетирования и отработки решения можно воспользоваться готовым набором UP Squared AI Vision kit (рис. 4), поддерживающим функционал глубокого обучения через CPU, GPU и VPU и включающим одноплатный компьютер UP Squared, акселератор AI Core, USB-камеру и корпус, в котором можно собрать устройство.

UP Squared + AI Core

Рис. 3. UP Squared + AI Core

Также производитель предлагает аналогичные наборы для разработчиков прикладных решений и на базе других одноплатных компьютеров серии UP Board (UP Board, UP Core, UP Core Plus). Такой набор может быть интересен и системным интеграторам для реализации малосерийных решений в рамках более крупных проектов.

Набор UP Squared AI Vision kit, поддерживающий реализацию функционала глубокого обучения AI EDGE

Рис. 4. Набор UP Squared AI Vision kit, поддерживающий реализацию функционала глубокого обучения AI EDGE

Создание собственных решений AI Edge на базе UP Core

Одноплатный компьютер UP Core — это компактный форм-фактор на базе процессорной платформы Intel Atom x86. Его расширяемость реализуется через 100-pin разъем (рис. 5). Для высокоскоростного расширения UP Core используется плата UP Core carrier board (высокоскоростная I/O). Именно она позволяет установить в разрабатываемом решении акселераторы UP AI Core или UP AI Core X, имеющие разъем mini-PCIe. Кроме того, в ее состав входит функционал, поддерживающий работу высокоскоростных портов LAN PORT, 2 Channel PCIe Switch, USB 2.0 (два порта), MiniCard, uSIM Card Reader и SD Card Slot.

Расширение одноплатного компьютера UP Core с использованием плат UP Core carrier board

Рис. 5. Расширение одноплатного компьютера UP Core с использованием плат UP Core carrier board

Для низкоскоростного расширения применяют плату UP Core carrier board (низкоскоростная I/O), которая включает конвертер USB-RS232, позволяющий реализовать подключения RS-232/422/485. Кроме того, плата обеспечивает питание конечного решения напряжением 12–24 В.

Предлагая решения на основе одноплатного компьютера UP Core, производитель выпускает его корпусированные версии — UP Core embedded box и UP Core gateway (миниатюрный шлюз в размере post-it). В настоящий момент это одни из самых компактных встраиваемых решений на рынке, предназначенных для работы в промышленных приложениях. UP Core embedded box обеспечивает обработку данных, подключение и Ethernet, имеет последовательные порты. Встроенный Wi-Fi и Bluetooth в UP Core gateway создают хорошие возможности для беспроводного подключения этого небольшого вычислительного устройства. Также для получения высокоскоростного расширения несущей платы возможно опциональное добавление 3G-модуля.

Создание собственных решений AI Edge на базе UP Core Plus

Одно из самых компактных, но при этом достаточно производительных решений по созданию своего собственного AI Edge-стека может быть реализовано с помощью сдвоенного высокоскоростного 100-пинового стыковочного разъема одноплатного компьютера UP Core Plus (рис. 6).

Создание собственных решений AI Edge на базе одноплатного компьютера UP Core Plus

Рис. 6. Создание собственных решений AI Edge на базе одноплатного компьютера UP Core Plus

Двойной 100-контактный разъем UP Core Plus может быть использован для подключения к док-станции и позволяет устанавливать модули расширения, такие как Ethernet Net Plus. В этом случае, помимо четырех портов RJ-45, каждый из которых имеет собственный отдельный сетевой чип, пользователь получает дополнительный слот mPCI-e и разъем SATA.

UP Core Plus может сопрягаться с наиболее производительным акселератором в линейке UP AI Core X — платой UP AI Vision Plus X*.

 

Заключение

Существующие сферы применения продукции AAEON и наработанные ею за несколько последних лет компетенция и опыт позволяют говорить об этой компании как об одном из мировых лидеров индустрии встраиваемых решений, специализирующемся в области создания систем искусственного интеллекта, разработки разнообразных «умных» приложений и систем IoT, интеллектуальных охранных систем и систем видеонаблюдения, автоматизации машинного и фабричного парков, химической промышленности и транспорта, а также в сфере создания беспилотников.

Уже сегодня можно создать собственный AI Edge-стек, воспользовавшись разъемом mini-PCIe одноплатного компьютера UP Squared (наиболее оптимален для этой задачи компьютер версии Intel Atom X7-E3950 SoC, с 8 Гбайт оперативной памяти и 64 Гбайт памяти eMMC). Либо применив сдвоенный высокоскоростной 100-пиновый стыковочный разъем одноплатного компьютера UP Core Plus или разъемы M.2 B+E одноплатных компьютеров серии PICO-ITX, прежде всего PICO-KBU4 (рекомендован для использования в дронах и роботах, оснащенных системами машинного зрения), PICO-APL4 и PICO-APL3 с разъемами «Ключ M.2 B» (2280), «Ключ M.2 E» (2230). Расширения для UP Squared, UP Core, UP Core Plus, PICO-APL3 или PICO-APL4 и акселераторы нейронной сети AI Core и AI Core X помогут реализовать проекты современных интеллектуальных решений.

Автор статьи готов предоставить активные ссылки на упоминаемые в статье программные средства и ресурсы, а также полные версии каталогов компании AAEON.


Видео к статье

 

Литература
  1. aaeon.com
  2. gamma.spb.ru
  3. up-shop.org
  4. ubuntu.com/core
  5. software.intel.com/en-us/articles
  6. youtu.be/Khq92ZryEI8
  7. youtu.be/MlpPW79yl0w
  8. Алексеева А., Гришин Б. Искусственный интеллект на страже безопасности: РФ готовится к прорыву в создании сети беспилотных автомобилей

Добавить комментарий

Ваш адрес email не будет опубликован.