Eventum AI
Lead AI / RAG Engineer: Self-Hosted Knowledge Platform
2 нед. назад
65–90 USD / часСтрана неизвестнаSeniorRemote
pythonllmragvllmsglangtritontgiembeddings
Lead AI / RAG Engineer role at Eventum AI focused on designing and developing production-grade self-hosted knowledge platform with expertise in LLM, RAG, and AI engineering.
О компании
- Eventum AI — AI engineering consultancy.
- Компания разрабатывает production-grade LLM, RAG, agent и document-intelligence системы.
Обязанности
- Проектировать архитектуру и участвовать в hands-on разработке production RAG / knowledge platform.
- Разрабатывать ingestion документов из Google Workspace, PDF, сканов, таблиц и изображений.
- Реализовывать permission-aware retrieval и ACL enforcement на этапе запроса.
- Разрабатывать hybrid search, embeddings, reranking и генерацию ответов с цитированием.
- Разворачивать и тестировать open-weight модели через vLLM или аналогичную инфраструктуру.
- Создавать evaluation и regression-системы для retrieval, качества ответов, безопасности и обновлений моделей.
- Отвечать за production deployment, observability, CI/CD, документацию и передачу решения.
- Работать напрямую с senior-командой Eventum AI и техническим руководством клиента.
Требования
- 6+ лет профессионального опыта в Software / ML Engineering.
- Опыт разработки production LLM / RAG систем.
- Сильные навыки Python и backend-разработки.
- Практический опыт с embeddings, vector search, reranking и document pipelines.
- Опыт работы с vLLM, SGLang, Triton, TGI или аналогичными технологиями.
- Сильные навыки cloud / infrastructure.
- Опыт с Azure, Docker, Terraform / Kubernetes и CI/CD.
- Опыт LLM evaluation и обеспечения production reliability.
- Готовность работать одновременно с ML, backend, data и infrastructure.
Будет плюсом
- Google Workspace APIs и permissions.
- pgvector / Qdrant.
- BM25 + dense retrieval.
- OCR / Document AI.
- Multimodal models.
- Prometheus / Grafana.
- Опыт работы с no-egress или security-sensitive environments.
Условия
- Полностью удалённый формат работы.
- Оплата 65–90 USD gross в час.
- Работа над production-grade AI / RAG системами.
- Прямое взаимодействие с senior-командой Eventum AI и техническим руководством клиента.