Результаты тестирования архитектуры IVA TPU, реализованной в FPGA, подтверждены и опубликованы на официальной странице сайта MLPerf в разделах инференса на оконечных устройствах Edge, Closed Division (ID 0.7-156) и Edge, Open Division (ID 0.7-396). MLPerf — международная площадка аттестации и тестирования оборудования в сфере машинного обучения и искусственного интеллекта. Решение квалифицировали в самую сложную группу Closed Division — закрытый список сетей с ограничениями на модификации, время ожидания и точность.
«Данное событие без преувеличения уникально для современной России. Трудно вспомнить примеры, когда отечественная разработка в микроэлектронике, получала аттестат зрелости аппаратной и программной составляющих у зарубежных экспертов, — отметил заместитель генерального директора IVA Technologies, руководитель направления Евгений Терентьев. — Мы показали, что сравнительно небольшая коммерческая молодая компания, при правильно выстроенной стратегии развития и рабочих процессах, способна реализовать потенциал своей команды, создать успешный продукт в одной из самых сложных областей микроэлектроники — микропроцессорах».
Edge AI — это самый быстрорастущий сегмент на рынке, и в группе Closed Division Edge представлено всего 5 поставщиков: Nvidia, ARM, Centaur, Xilinx и, с сентября 2020г, IVA Technologies.
Из анализа результатов видно, что для одной из самых распространенных нейронных сетей (Resnet-50), архитектура IVA TPU обеспечивает задержку в 3 раза меньше, чем лучшее решение от Xilinx. Планируется, что при реализации ускорителя с архитектурой IVA TPU в ASIC (ожидаются в первом квартале 2021г.), результаты будут лучше, чем у нашего ближайшего конкурента NVIDIA Jetson Xavier NX несмотря на отставание в технологии (28 нм против 12 нм).
«Это было серьезное испытание и оценка уровня зрелости аппаратных и программных стеков архитектуры IVA TPU, которое наша команда успешно прошла, подтвердив свой высокий профессионализм. Российская разработка заняла достойное место в одном ряду с международными гигантами с сфере микроэлектроники для поддержки искусственного интеллекта», — добавил Евгений Терентьев.
В ближайшее время на базе IP-ядра IVA TPU запускается в производство две конфигурации микропроцессоров — для оконечных устройств (IVA E) и облачных сервисов (IVA H). Ни базе микропроцессоров разрабатывается несколько реализаций модулей, которые будут непосредственно применяться в электронных устройствах заказчиков.
Таким образом IVA Technologies сможет сформировать широкую продуктовую линейку, которая позволит удовлетворить потребности в вычислительных ресурсах для ускоренного расчета нейронных сетей, у совершенно разных производственных и сервисных компаний. Речь идет о производителях смарт устройств (умные камеры, IoT, промышленная и городская безопасность), о разработчиках автономных машин (ADAS, дроны), о крупных операторах сервисов и ЦОД (обработка фото- и видеоданных, текста, голоса, информационная безопасность). Кроме того, в планах компании начало продаж вычислительных ресурсов для инференса нейронных сетей через облачный сервис.