Новый облачный сервис на основе H200 позволит компаниям в 2 раза быстрее проводить инференс масштабных LLM-моделей по сравнению с H100. Увеличенный объём видеопамяти 141 ГБ формата HBM3e и 4,8 ТБ/с пропускной способности делает эти графические ускорители флагманским решением для работы с генеративным ИИ и LLM, высокопроизводительных вычислений (HPC) и построения суперкомпьютерных систем.
Клиентам доступны конфигурации вычислительных ресурсов c GPU NVIDIA H200 от 1 до 8 карт на виртуальную машину и с высокоскоростной сетевой технологией InfiniBand. Она позволяет связать между собой серверы с GPU, повысив между ними пропускную способность до 400 Гбит/с, и таким образом организовать среду для высокопроизводительных вычислений. Сервис подойдет для обработки огромного объема данных в реальном времени в таких сферах, как финансовый трейдинг и анализ рыночных данных, разведка нефти и газа, моделирование физических, климатических и биологических процессов, разработка корпоративных приложений на базе ИИ и много другого.
Облачные вычисления на базе GPU NVIDIA L40S с 48 ГБ видеопамяти подойдут как для обучения небольших и средних ML-моделей, так и для профессиональных графических задач, как 3D-рендеринг, визуализация, проектирование, медиаобработка и транскодирование. Благодаря своей универсальности эти графические ускорители востребованы среди малого и среднего бизнеса, которому требуется мощное и эффективное решение для работы с нейросетями и визуальными задачами, но нет необходимости во флагманских GPU вроде H100 и H200. В Т1 Облако доступны конфигурации вычислительных ресурсов c L40S от 1 до 8 карт на ВМ.
«Мы фиксируем взрывной рост интереса к ИИ-решениям, для которого требуется все больше производительных вычислительных ресурсов. Облачные сервисы на базе GPU — стратегическое направление для Т1 Облако, и мы продолжаем его развивать. NVIDIA H200 и L40S последовательно усиливают нашу линейку GPUaaS: это одни из самых популярных моделей на рынке, и наши клиенты уже демонстрируют к ним высокий интерес», — отметил Георгий Джабиев, директор по развитию бизнеса Т1 Облако.