Компания Meta создала «суперкомпьютер с искусственным интеллектом» — высокопроизводительный компьютер, разработанный специально для обучения систем машинного обучения. Компания заявляет, что ее новая система AI Research SuperCluster (RSC) уже является одной из самых быстрых машин такого типа. А к моменту завершения (в середине 2022 года) станет самым быстрым ИИ-суперкомпьютером в мире.
«Суперкомпьютер с искусственным интеллектом» немного отличается от обычных суперкомпьютеров. RSC будет использоваться для обучения ряда систем в подразделениях Meta – от алгоритмов модерации контента, используемых для обнаружения разжигания ненависти в Facebook и Instagram, до функций дополненной реальности, которые со временем появятся в грядущих гарнитурах. Meta говорит, что RSC также будет использоваться для разработки переживаний для метавселенной.
«RSC поможет исследователям ИИ в Meta создавать новые и более совершенные модели ИИ, которые могут учиться на триллионах примеров; работать на сотнях разных языков; легко анализировать текст, изображения и видео вместе; разрабатывать новые инструменты дополненной реальности; и многое другое», — утверждают инженеры Meta Кевин Ли и Шубхо Сенгупта.
В компании надеются, что RSC поможет создать совершенно новые системы искусственного интеллекта, которые смогут, например, обеспечивать голосовой перевод в реальном времени для больших групп людей, говорящих на разных языках.
Работа над RSC началась полтора года назад. Инженеры Meta проектировали различные системы суперкомпьютера с нуля. Первая часть RSC уже запущена. Она состоит из 760 ускорителей NVIDIA GGX A100, содержащих 6080 подключенных графических процессоров. Meta заявляет, что уже обеспечивает до 20 раз более высокую производительность при выполнении своих стандартных исследовательских задач в области машинного видения.
До конца 2022 года планируется завершить вторую часть RSC. На тот момент суперкомпьютер будет включать около 16 тыс. GPU и сможет обучать системы ИИ «с более чем триллионом параметров на наборах данных размером до эксабайта». В законченном виде RSC должен стать самым производительным ИИ-суперкомпьютером в мире. Для сравнения, ИИ-суперкомпьютер Microsoft, созданный с помощью исследовательской лаборатории OpenAI, содержит 10 тыс. графических процессоров.
Отличия обычных суперкомпьютеров от «суперкомпьютеров с искусственным интеллектом» заключаются в типе выполняемых задач. Машинное обучение требует меньшей точности, чем задачи, стоящие перед традиционными суперкомпьютерами. «Суперкомпьютеры с ИИ» могут выполнять больше вычислений в секунду, чем их обычные собратья, использующие то же оборудование. Обычные суперкомпьютеры, как правило, выполняют вычисления двойной точности (64-битные). В то время как для ИИ-суперкомпьютеров достаточно вычислений единичной (32 бита) или половинчатой (16 бит) точности.
Источник: The Verge
