Intel представила готовые контейнеры для запуска языковых моделей на Xeon

14 октября 2026 года Intel представила Inference Microservices — готовые контейнеры для выполнения языковых моделей на процессорах Xeon. Первый выпуск ориентирован на существующие серверы с Xeon четвёртого, пятого и шестого поколений. Идея заключается в том, чтобы предоставить приложению привычный интерфейс, а настройки вычислений подобрать под конкретную модель и обнаруженное оборудование.

Каждый микросервис обслуживает одну модель на одном узле и предоставляет API, совместимый с OpenAI. В первой версии используется движок vLLM. При запуске контейнер определяет возможности процессора, доступные ядра и организацию памяти, после чего выбирает профиль, проверенный Intel для этого сочетания. Для начала работы компания рекомендует 32 ГБ оперативной памяти.

Сервис работает в инфраструктуре пользователя. Это не облачная подписка Intel с готовым удалённым адресом: контейнер необходимо развернуть и обслуживать самостоятельно. Совместимый API упрощает подключение приложения, но лицензия самой языковой модели остаётся отдельным условием. Поддержку процессоров Core или дискретных Intel GPU этот первый выпуск не объявляет; расширение на графические ускорители описано как дальнейшее направление.

Автоматический выбор профиля снимает часть ручной настройки, но не определяет требования проекта. Перед внедрением всё равно нужно выбрать модель, объём контекста, допустимое время ответа и число одновременных запросов. Сравнивать такую систему с видеокартой по одному названию процессора нельзя: результат зависит от модели, доступной памяти, точности вычислений и характера нагрузки.

Особенно важен режим для неизвестного оборудования. Intel сообщает, что специализированные контейнеры моделей по умолчанию выдают ошибку при отсутствии подходящего проверенного профиля. У базового образа предусмотрен общий запасной профиль. Для команды разработчиков это делает конфигурацию более явной: запуск без ошибки и работа по подтверждённому профилю — разные состояния, которые нужно различать при испытании сервиса. Для домашнего игрового ПК релиз пока представляет скорее развитие программной экосистемы, чем повод менять комплектующие.

Intel: Inference Microservices, Tuned LLM Inference on Intel Processors (2026-10-14).

Сотрудница Intel демонстрирует Xeon 6 на предприятии в Коста-Рике, май 2024 года; иллюстрация семейства процессоров. Фото: Intel Corporation, редакционное использование. Источник изображения. Условия использования. Масштабирование с сохранением кадра и прозрачными полями до 1600×900.