devops инженер для ML-платформы

Описание: СОГАЗ развивает цифровые продукты и сервисы. Команда центра внедрения ИИ строит продуктовую ML-платформу для генеративных AI-ассистентов и классических моделей машинного обучения. Задачи: Проектировать архитектуру AI-систем; Внедрять GPU-планировщик для шаринга нагрузки на одном оборудовании; Проектировать и поддерживать ML-пайплайны; Настраивать CI/CD для моделей, включая версионирование данных, моделей и экспериментов; Мониторить production-модели; Выполнять деплой и оптимизацию LLM и inference-серверов; Контейнеризировать и оркестрировать сервисы; Настраивать CI/CD с использованием GitLab CI; Настраивать мониторинг и observability с использованием Prometheus и Grafana; Обеспечивать выполнение требований информационной безопасности в отношении инфраструктуры. Требования: Понимание процессов обучения, инференса и работы с данными; Опыт от 2 лет в MLOps или DevOps с ML-спецификой; Production-опыт работы с Docker и Kubernetes; Знание CI/CD и методологии GitOps; Глубокие знания Linux; Опыт построения или управления GPU-кластерами на базе NVIDIA и CUDA; Понимание multi-tenant GPU-шаринга: MIG, MPS, time-slicing; Опыт работы с LLM и inference-серверами: vLLM, TGI, Triton; Опыт работы с GPU-планировщиками; Опыт работы с MLflow, Kubeflow, Airflow или аналогами; Высшее техническое образование. Условия: Оформление полностью в соответствии с ТК РФ; Оплачиваемый отпуск 29 календарных дней плюс 1 день отпуска; ДМС в лучших клиниках города; Страхование жизни и страхование от несчастных случаев и болезней; ДМС родственников со скидкой 75%; Премиальные условия на продуктовую линейку группы компаний «СОГАЗ» для работников и их близких родственников; Социальный пакет и специальные предложения по страхованию, кредитованию и другие программы от партнёров; Курсы, тренинги и корпоративная библиотека; Подарки детям сотрудников на Новый год и скидки в детские лагеря.