Microsoft создала суперкомпьютер для компании Илона Маска

20.05.2020 |

Александр Абрамов.

Новейший суперкомпьютер станет первым шагом на пути к открытию доступности для организаций и разработчиков следующего поколения массивных ИИ-моделей и инфраструктуры, необходимой для их обучения.

Новость была объявлена компанией в ходе конференции для разработчиков Microsoft Build, проведенной в первый раз в онлайн-формате.

Новейший суперкомпьютер создавался непосредственно для компании OpenAI, основанной Илоном Маском и Сэмом Альтманом.

По расчётам Microsoft машина оказалась в пятёрке публично объявленных суперкомпьютеров. Ее технические характеристики: ядра процессора (CPU core) —285 000, графические процессоры (GPU) — 10 000, пропускная способность сети — 400 Гбит/с для GPU-сервера.

Разработка суперкомпьютера Microsoft осуществлялась на основе облака Azure: его отличает современная инфраструктура облака, в том числе и практически моментальное развёртывание, надёжность датацентров и доступность сервисов Azure. Машина будет проводить обработку данных для разных моделей и ИИ-алгоритмов. Суперкомпьютером будет осуществляться тренировка следующего поколения больших распределённых ИИ-моделей, способных к выполнению большего количества функций и требующих гораздо больших ресурсов.

Как пояснила Microsoft, исторически экспертами велась разработка маленьких ИИ-моделей, использовавших размеченные данные для обучения выполнению какой-то одной задачи — распознанию объектов, текстового перевода и т.п. Но специалистами доказано, что отдельные такие задачи лучше выполняет одна большая модель — она так тонко воспринимает речь, грамматические особенности и контекст, что способна к качественному выполнению нескольких задач: подведению итогов длительных выступлений, модерированию чата в онлайн-игре и др. Для того чтобы создавать и тренировать большие модели, требуется супервычислительная инфраструктура или кластеры современного оборудования, соединённые посредством сетей, имеющих высокую пропускную способность.