RussiaSelecty
MLOps (банк)
1 мес. назад
250k–340k RUB / monthRussiaMiddleRemote
pythonasynciokuberneteshelmgitlab cijenkinsfastapidocker
Мы создаем экосистему цифровых сотрудников на базе передовых открытых LLM/VLM-моделей для автоматизации операционных процессов и повышения эффективности бизнеса.; Ключевая роль с задачами DevOps для AI: развитие CI/CD пайплайнов, деплой и оптимизация LLM/VLM, обеспечение надежности и мониторинга сервисов.
О компании
- Мы создаем экосистему цифровых сотрудников на базе передовых открытых LLM/VLM-моделей.
- Наши ИИ-агенты автоматизируют ключевые операционные процессы, напрямую влияя на эффективность и конкурентное преимущество бизнеса наших заказчиков.
Обязанности
- Ты станешь ключевым инженером, который превращает исследовательские прототипы в отказоустойчивую GenOps-фабрику цифровых агентов.
- Проектирование и развитие самообслуживания CI/CD пайплайнов для внутреннего деплоя AI-агентов и мультиагентных систем.
- Развертывание и оптимизация LLM/VLM в процессе разработки (оптимизация памяти, формирование скорости) с использованием vLLM, Triton Inference Server, SGLang.
- Обеспечение высокой доступности сервисов, работа с масштабированием горизонтальных подов и управление состоянием агентов.
- Внедрение комплексного наблюдения: от стандартных метрик (CPU/GPU, задержка) до конкретных ML-метрик (качество генерации, дрейф данных, оценка тональности ответов).
Требования
- Опыт вывода LLM-решений в прод.
- Уверенное владение Python и асинхронным программированием (asyncio).
- Уверенное владение Kubernetes (Helm, управление кластерами).
- Знание Gitlab CI, Jenkins и пр.
- Понимание архитектуры RAG-систем, работы embedding-моделей и ранжирования.
- Умение оптимизировать инференс: квантизация, continuous batching, PagedAttention.
- Будет плюсом: опыт с графовыми БД и построением мультиагентных систем
Будет плюсом
- Опыт с графовыми БД и построением мультиагентных систем
О продукте
- Технологический стек: Python, FastAPI, langchain/llamaindex/haystack k8s, docker, S3, postgres.
- Опыт работы с векторными и графическими БД.
Условия
- Оформление по ТК РФ в IT-аккредитованную компанию
- ДМС (включая стоматологию)
- Компенсация фитнеса
- Скидки на обучение английскому (Skyeng)
- Индексация заработной платы
- Современная техника
- IT-аккредитация компании