Новость Билайн работает над платформой для инференса ИИ-моделей

[kevinm1tnik]

«Билайн» активно разрабатывает комплексное решение в области искусственного интеллекта, ориентированное на этап инференса — практическое применение уже обученных ИИ-моделей для решения различных задач. В этом проекте оператор связи сотрудничает с одним из российских производителей серверного оборудования, компанией OpenYard, специализирующейся на создании вычислительных систем. Целью данного сотрудничества является создание полноценной платформы, включающей как аппаратное обеспечение в виде серверов, так и необходимое программное обеспечение для их эффективной работы и управления.

Ключевым аспектом стратегии «Билайна» является размещение этих специализированных серверов в собственных центрах обработки данных (ЦОД). Это позволит компании контролировать инфраструктуру и обеспечивать необходимый уровень безопасности и надежности для своих будущих клиентов. Доступ к этим вычислительным ресурсам планируется предоставлять корпоративным заказчикам по модели аренды. Такой подход позволит компаниям, нуждающимся в мощностях для инференса ИИ-моделей, избежать значительных капитальных затрат на приобретение и обслуживание собственного оборудования.

Ожидается, что новый сервис «Билайна» будет особенно востребован среди представителей банковского сектора, IT-компаний и крупных промышленных предприятий. Эти отрасли активно внедряют технологии искусственного интеллекта для автоматизации процессов, анализа больших объемов данных, улучшения клиентского сервиса и цифрового контроля за производственными циклами. На фоне растущего интереса к практическому применению ИИ и существующего дефицита аналогичных предложений на российском рынке, инициатива «Билайна» и OpenYard может стать значимым шагом в развитии этой области.

Важно отметить, что обучение ИИ-моделей требует очень больших вычислительных мощностей, в частности, использования тысяч графических процессоров (GPU), производство которых в России на данный момент не налажено. Однако для этапа инференса требования к вычислительным ресурсам существенно ниже, что позволяет использовать менее мощное оборудование. Тем не менее, как отмечают эксперты, для достижения высокого качества работы при инференсе все же предпочтительно использование серверов с GPU, хотя технически это возможно и на обычных серверах.

На российском рынке разработкой оборудования для инференса, помимо OpenYard, занимаются такие крупные игроки, как «Сбер» и «Яндекс», а также различные стартапы. Однако в основе большинства этих решений по-прежнему лежат чипы зарубежного производства, в основном американские GPU, которые были ввезены в страну до 2022 года, включая продукцию Nvidia и AMD.

Заместитель генерального директора по IT «Вымпелкома» Антон Рубенчик подчеркнул, что на рынке наблюдается растущий спрос на аренду серверов с GPU, однако не все потенциальные клиенты готовы нести соответствующие затраты. Он также отметил, что, хотя инференс и возможен на стандартных серверах, существующие решения пока не обеспечивают сопоставимого с GPU-оборудованием уровня производительности.

Эксперты в отрасли считают, что сотрудничество «Билайна» и OpenYard имеет потенциал для создания полноценной и востребованной услуги по аренде вычислительных мощностей с поддержкой развертывания ИИ-моделей. Потенциальная стоимость такого сервиса для крупных компаний с тысячами сотрудников может достигать значительных сумм в год. Учитывая планы по расширению мощности российских ЦОДов, инвестиции в подобную инфраструктуру могут исчисляться миллиардами долларов в перспективе до 2030 года. Таким образом, инициатива «Билайна» представляет собой важный шаг в развитии рынка ИИ-сервисов в России.​