Fplus и НТЦ «Модуль» представили отечественное оборудование для ИИ и ML

4 декабря 2024 года на площадке Сколковского института науки и технологии (Сколтеха) в Москве прошло заседание горного клуба МАЙНЕКС «Искусственный интеллект в геологии, добыче и металлургии». Среди участников встречи были представители российских ИТ-компаний Fplus и НТЦ «Модуль», которые уже поставляют на рынок, соответственно, серверные системы для поддержки задач ИИ и бортовые компьютеры на базе ИИ. Подобные решения закладывают основы для развития промышленности как на ближайшую, так и на более дальнюю перспективу, вплоть до «Индустрии 6.0». Их разработка и внедрение являются краеугольным камнем для построения технологической независимости страны.

Стенд компании Fplus на площадке Сколтеха.
Фото: Игорь Новиков/ICT-Online.ru

«Индустрия 6.0» – горизонт для инноваций

В первой части ивента состоялась экспертная дискуссия по глобальным трендам в развитии промышленности. Главным ориентиром отрасли эксперты назвали концепцию «Индустрии 6.0» – мощный драйвер повсеместного внедрения промышленной роботизации. Эта тема являлась одной из основных в обсуждении глобальных трендов в мире в 2024 году. Более подробно о том, на чем базируется эта концепция, рассказал автор подхода по переходу от индустрии 5.0 к 6.0 профессор Сколтех Дмитрий Тетерюков.

Выступает профессор Сколтеха Дмитрий Тетерюков.
Фото: Игорь Новиков/ICT-Online.ru

Первое поколение индустриального развития (XVIII в.) «Индустрия 1.0» связывают с периодом появления механизмов, которые позволили существенно упростить, а подчас и заменить ручной труд. Второе поколение (XIX–XX вв.) было обусловлено развитием серийного производства машин и механизмов. Третий период (конец XX в.) стал результатом появления компьютерной техники и началом ее широкого применения в индустрии. Принято считать, что сейчас развитые страны находятся в четвертой фазе (поколение 4.0), которая связана с появлением и совершенствованием киберфизических систем.

Но на горизонте уже заметен этап «Индустрия 5.0» (Institution of Engineering and Technology, IET), который связывают с широким внедрением инноваций в компьютерной технике и других направлениях, таких, как бионика. Эта концепция рассматривает подход, нацеленный на достижение прямого взаимодействия (коллаборации) между людьми и машинами ради «достижения беспрецедентного уровня эффективности и производительности» (human-in-the-loop).

«Индустрия 5.0» предполагает появление связанных между собой систем, широкое применение сенсоров, данных и вычислительных мощностей, облачных технологий, повсеместное распространение Интернета. Расширенная аналитика, машинное обучение, искусственный интеллект, развитие систем виртуальной (VR) и дополненной (AR) реальности, внедрение автономных мобильных роботов (AGV) – все это элементы «Индустрии 5.0».

Компоненты концепции «Индустрия 5.0».
Источник: презентация компании Fplus

Но инновационные центры развития смотрят уже дальше. Как уже было отмечено, глобальный тренд 2024 года – это детальная проработка новой концепции «Индустрия 6.0». Она связана с появлением «умных» фабрик, представляющих собой производственную среду с беспрепятственным взаимодействием человека и автоматов (роботов). Все этапы, включая генерацию кода, выполняются без участия человека (human-out-of-the-loop). Человек только запускает автономное производство, отправляя текстовый или голосовой запрос. Гетерогенный рой роботов (коботы, антропоморфные промышленные, мобильные роботы, дроны) охватывают все этапы производства и не требуют вмешательства со стороны человека.

Значительную роль в новой концепции будут играть передовые технологии, такие, как искусственный интеллект (ИИ), нейронные интерфейсы и робототехника. ИИ будет обрабатывать сложные решения, высвобождая людей для творческих задач и решения проблем, которые максимально раскрывают их потенциал.

ИИ будет также самостоятельно проектировать, производить, оценивать качество оборудования и роботов, заниматься их обслуживанием и ремонтом (End-to-End AI). При этом каждый робот будет оснащен генеративным ИИ (GenAI). Он будет работать независимо в динамических средах, порождая цифровые двойники, управляемые GenAI.

Как в России готовятся ответить на эти вызовы? Смогут ли российские вендоры заменить продукты NVIDIA (ведущего глобального вендора систем для ИИ) и другие иностранные аналоги, которые де факто являются сейчас основными на мировом рынке систем с ИИ?

Российский вендор Fplus и поддержка GenAI

Ответы на поставленные вопросы дал Илья Левчук, директор департамента индустриальных программно-аппаратных комплексов компании Fplus.

Прежде всего он отметил, что Fplus входит в первую тройку ИТ-компаний России. Компания является производителем и ведущим поставщиком высокотехнологичного электронного оборудования, в том числе предназначенного для перспективных направлений, таких, как технологии ИИ. Fplus существует на рынке уже более 30 лет, имеет свыше 4000 партнеров из более 200 городов страны, производит продукцию на собственном заводе в Валищево (Московская обл.).

Участие Fplus в создании отечественных аппаратных решений для поддержки ИИ связано с производством серверного оборудования. В этом направлении Fplus развивает уже пять самостоятельных продуктовых линеек разных задач: от серверов начального уровня до устройств, готовых работать в составе крупного ЦОД для поддержки высоконагруженных систем.

В продуктовом портфеле Fplus есть несколько решений, которые можно использовать для обучения и поддержки уже обученных ML-моделей.

Сервер Fplus Восход SR-221.
Фото: Игорь Новиков/ICT-Online.ru

В этой части Илья Левчук выделил прежде всего новый 2U сервер Восход SR-221, который может применяться как надежная и функциональная основа для обучения нейронных сетей. Сервер построен на базе двух высокопроизводительных процессоров Intel Xeon Scalable 3-го поколения, что позволяет получить до 40 физических ядер на каждый процессор. Производительность поддерживается оперативной памятью стандарта DDR4 3200 МГц. Благодаря доступности восьми слотов расширения PCIe 4.0 с поддержкой установки карт форм-факторов от HHHL до FHFL, сюда можно устанавливать карты NVIDIA A100 – основной на сегодняшний день инструмент для нужд AI и ML.

Согласно планам производителя, сервер Восход SR-221 появится в реестре Минпромторга до 31 марта 2025 г.

Портфель серверного оборудования Fplus.
Источник: презентация компании Fplus

Бортовые ИИ-компьютеры компании НТЦ «Модуль»

Для практического применения ИИ необходимо выпускать бортовые Edge-устройства, оснащенные встроенной аппаратной поддержкой ИИ. В этом направлении работает российская компания НТЦ «Модуль». О ее достижениях и планах развития рассказал Халиль Эль-Хажж, начальник службы внедрения проектов.

НТЦ «Модуль» работает на рынке микроэлектроники и бортового оборудования уже более 30 лет. Его основное направление – разработка систем для авиации и космоса, но в последние годы активно развивается также направление периферийных вычислений (Edge Computing) для поддержки ИИ (Edge AI), а также освоение новых областей промышленности.

Представители НТЦ «Модуль» Илья Левчук
и Халиль Эль-Хажж (крайние слева) на заседании горного клуба МАЙНЕКС.
Фото: Игорь Новиков/ICT-Online.ru

Компания еще с начала 2000-х гг. занимается разработкой линейки микропроцессоров на базе собственной архитектуры NeuroMatrix. Первоначально она разрабатывалась для  задач DSP-обработки (цифровая обработка сигналов) и применялась в различных преобразователях, фильтрах и пр. Но позднее оказалось, что эта архитектура неплохо справляется с задачами реализации нейронных сетей из категории сверточных (обработка видеоизображений, обработка видеопотока, и т.д.). Так в НТЦ «Модуль» появились специальные процессоры, которые нашли применение в составе ПУ, серверов и АРМ для графической обработки.

Большие возможности дает применение нейросетевого ускорителя NM Card, так же производимого НТЦ «Модуль». Эта карта построена на основе многоядерного DSP-процессора на базе архитектуры NeuroMatrix Core 4 с управляющим RISC-процессором ARM Cortex A5 в форм-факторе PCIe. Малый форм-фактор позволяет устанавливать ее в 2U-сервер, что расширяет горизонты сотрудничества НТЦ «Модуль» с Fplus. На базе таких систем можно создавать производительную и легко масштабируемую инфраструктуру, специализированную под задачи ИИ в области обработки видео. Она может применяться для высокоскоростной видеоаналитики, проведения симуляций, создания сложных многоуровневых процессных моделей.

Нейросетевой ускоритель NM Card в форм-факторе PCIe.
Источник: презентация НТЦ «Модуль»

Если же к данному решению добавить специальную коммутационную плату NM BackPlane (аналог AMD CrossFireX и NVIDIA SLI), то для решения высоконагруженных задач можно использовать до пяти модулей NM Card, получая производительность в коммутации до 2.5 TFLOP/s на операциях FP32.

Самым ярким достижением НТЦ «Модуль» на сегодняшний день является создание встраиваемого бортового вычислителя NM Pilot. В настоящее время он уже нашел применение в ПАО ГМК «Норникель» на самоходных бурильных установках.

Система построена на базе универсального процессора RK3588 (RockChip, Китай), все остальное является разработкой НТЦ «Модуль». В частности, компания разработала несущую плату, собственный нейропроцессор К1879ВМ8Я на архитектуре NeuroMatrix. Если на базовом процессоре работает ОС Debian/Astra и он играет роль интерфейсного моста, то вся нейросетевая активность обрабатывается именно на процессоре от НТЦ «Модуль».

Бортовой компьютер NM Pilot получился компактным. Он поддерживает максимальные эксплуатационные ограничения (IP65/67), имеет широкий диапазон входных напряжений. После завершения пилотного внедрения в «Норникеле» планируется, что он будет запущен в серийное производство в феврале 2025 г, что позволит оснастить им всю технику горнодобывающей компании.

Новый компьютер может быть доработан под нужды конкретного заказчика. В НТЦ «Модуль» рассчитывают получить новые заказы на эту модель и от других промышленных предприятий.

Бортовой вычислитель NM Pilot компании НТЦ «Модуль».
Источник: презентация НТЦ «Модуль»

Что дальше?

Как рассказал Халиль Эль-Хажж, в активной разработке у компании сейчас находится новый процессор, который позволит полностью заменить NVIDIA Jetson – серию процессоров для ускоренной производительности ИИ на Edge-устройствах. Появление его российского аналога откроет двери для разработки и развертывания инновационных продуктов в других отраслях.

Будущий процессор НТЦ «Модуль» будет построен на ARM-ядрах 7-го поколения. В нем будет установлена шина PCI 5-го поколения, появится возможность прямого доступа к памяти. Будет внедрен также аппаратный модуль для поддержки нейросетевых задач.

Первые инженерные образцы нового чипа должны появиться в конце 2025 года.