Авито

Middle / Senior Data Scientist (команда LLM Core)

2 нед. назад

РоссияMiddleHybrid

pythonpytorchtransformerdistributed learningdeepseedmlopsweights & biasesreinforcement learning

Data Scientist в команду LLM Core. Работа с обучением и внедрением базовых языковых моделей (LLM) в бизнес-сценарии Авито, оптимизация инференса, масштабирование обучения и внедрение ML-решений.

О компании

Авито — крупная российская платформа объявлений для покупки, продажи товаров, недвижимости, авто и услуг.

О продукте

Наша команда обучает собственные базовые LLM и внедряет их в бизнес-сценарии Авито.
Цель команды — обеспечить продукты моделями, которые подходят по качеству ответов и стоимости применения.
Адаптация open source-решений под русский язык и доменную специфику Авито с помощью continual pre-training и подмены токенизатора.
Исследование новых методов, пайплайнов, включая RL и синтетические данные, а также датасеты.
Проведение регулярных LLM-семинаров, разбор статей и AI-трендов.
Технический фокус — построение масштабируемого пайплайна для претрейна и дообучения LLM, оптимизация инференса (движки, квантование, speculative decoding и др.).

Обязанности

Создавать и развивать базовые языковые модели для аудитории Авито: от постановки исследовательской гипотезы и проведения экспериментов до внедрения решений в продакшен.
Влиять на архитектуру моделей, обучающие пайплайны и качество LLM-стека компании.
Формулировать и проверять гипотезы в области претрейна, continual pre-training, post-training, RL, синтетических данных и архитектур моделей.
Вести сложные исследовательские и инженерные задачи: постановка цели, выбор метрик, дизайн экспериментов, реализация, анализ результатов, внедрение.
Масштабировать обучение и инференс: профилировать узкие места, повышать эффективность распределённого обучения и инференса, работать с квантованием, speculative decoding и современными inference-движками.
Строить надёжные процедуры оценки качества, анализировать ошибки, находить регрессии, проектировать датасеты и метрики для сравнения моделей по качеству, latency и стоимости.
Писать продакшен-код на Python и PyTorch, проводить code review, улучшать воспроизводимость экспериментов, надёжность и поддерживаемость ML-решений.
Делиться знаниями, менторить менее опытных коллег, участвовать в архитектурных обсуждениях и LLM-семинарах.
Масштабировать базовую модель A-vibe: исследовать новые архитектуры и подходы к обучению.
Оптимизировать скорость и стоимость инференса высоконагруженных моделей в продакшене.
Проектировать и помогать разрабатывать внутренние LLM-платформы и мультиагентные системы.
Строить надёжную инфраструктуру для оценки качества моделей.

Требования

Не менее 3 лет опыта реализации и эксплуатации ML-решений.
Глубокое понимание современных ML-алгоритмов, Transformer и принципов обучения LLM.
Практический опыт обучения, адаптации или внедрения NLP-моделей, умение превращать идеи в проверяемые эксперименты.
Умение самостоятельно работать с неопределённостью: декомпозировать проблему, выбирать метрики, анализировать результаты, принимать технические решения.
Уверенное владение Python, хорошее знание PyTorch и инженерных практик разработки.
Понимание компромиссов между качеством, latency, throughput и стоимостью с учётом при выборе решений.

Будет плюсом

Опыт работы с continual pre-training, заменой или расширением токенизатора, SFT, LoRA либо RL-подходами к post-training.
Опыт распределённого обучения или оптимизации инференса, знакомство с DeepSpeed, vLLM, SGLang или TensorRT-LLM.
Построение пайплайнов оценки качества, синтетических датасетов или систем автоматического анализа ошибок моделей.
Опыт с MLOps-инструментами для трекинга экспериментов и версионирования данных и моделей: Weights & Biases, MLflow, DVC или аналогами.
Публикации, участие в open source-проектах или высокие места в соревнованиях по машинному обучению.

Условия

Возможность влиять на продукт: ваши решения будут улучшать опыт миллионов пользователей.
Сложные технологические задачи на большом масштабе.
Доступ к производительным GPU-кластерам для экспериментов.
Сильное комьюнити: команда экспертов для обсуждения идей и подходов.
Бюджет на обучение, курсы, конференции и профессиональную литературу.
ДМС со стоматологией с первого дня, в офисе терапевт и массажист.
Возможность работать удалённо или из офисов в 4 городах России.