MTS AI полностью перенесла в облако процесс обучения и инференса моделей ИИ
Компания MTS AI, разрабатывающая продукты и решения на базе генеративного ИИ, технологии обработки естественного языка и компьютерного зрения, полностью перенесла в облако MWS процесс обучения и инференса моделей ИИ, а также больших языковых моделей, сообщает пресс-служба компании. В MTS AI отметили, что за счет этого удалось сэкономить более 1 млрд рублей инвестиций. Основу сервисов компании составляют ML-модели, обучающиеся на тысячах терабайтов данных. Также компания использует GPU, чтобы ускорить процесс обучения. Для сложных задач клиенты компании используют сервисы на основе больших языковых моделей, среди которых LLM, Cotype, Kodify и другие. В MTS AI отметили, что работа с моделями в облаке делится на 3 этапа. Первый – деплой и предобучение моделей с помощью виртуальной инфраструктуры с GPU ускорителями. Второй – глубокое обучение моделей на суперкомпьютере. Третий – переход моделей на инференс в облаке MWS. Как рассказал директор по LLM-продуктам MTS AI Сергей Пономаренко, переход в облако позволяет использовать тот объем вычислительных ресурсов, который необходим для работы, не тратя большие суммы на закупку серверов.
