Java-разработчик ML-платформы
1 нед. назад
Россия
javapostgresqlmicroservicesnvidia gpu
Мы разрабатываем внутреннюю ML‑платформу, которая помогает ML‑разработчикам быстро и предсказуемо доводить модели до продакшена — от готовой модели до стабильного продового инференс-сервиса, который можно передавать внешним командам на интеграцию.
О компании
- Компания: VK, AI VK
О продукте
- Мы разрабатываем внутреннюю ML‑платформу, которая помогает ML‑разработчикам быстро и предсказуемо доводить модели до продакшена — от готовой модели до стабильного продового инференс-сервиса, который можно передавать внешним командам на интеграцию.
- На платформе больше тысячи моделей и суммарно десятки тысяч запросов в секунду.
- Задачи платформы:
- - Сокращение time‑to‑market (TTM): убираем ручные шаги, стандартизируем путь модели в прод и делаем его воспроизводимым и прозрачным
- - Эффективность и надёжность: большинство моделей работают на GPU, поэтому важно минимизировать простои, корректно масштабироваться под нагрузку и сохранять устойчивость сервиса даже при сбоях на уровне инфраструктуры / железа
Обязанности
- Развивать backend-инфраструктуру инференс-платформы
- Работать над эффективным использованием GPU
- Совместно с командой инфраструктуры улучшать end‑to‑end надёжность
Требования
- Опыт разработки на Java
- PostgreSQL
- Опыт работы с микросервисами
Будет плюсом
- Опыт работы с ML
- Опыт работы с Inference Backend'ами
- Опыт работы с Nvidia GPU