RussiaСбер
Стажёр в области безопасности GenAI-моделей
1 мес. назад
RussiaTraineeOnsiteB2
pythonlangchaintransformersmathematical statistics
Стажировка в области безопасности больших и мультимодальных языковых моделей внутри крупной компании Сбер.
Обязанности
- Исследование: помощь в анализе новых публикаций, инцидентов и методов атак на GenAI (изучение arXiv, блогов, репозиториев).
- Поддержка разработки PoC: участие в создании и тестировании прототипов (Proof of Concept) для демонстрации уязвимостей под руководством наставника.
- Работа с инструментами: освоение и помощь в улучшении внутренних инструментов для тестирования устойчивости моделей и приложений.
- Эксперименты: участие в оценке защищённости моделей — проведение базовых тестов, анализ результатов, подготовка данных.
- Погружение в экосистему: активное изучение фреймворков и библиотек для работы с ИИ (LangChain, Transformers и др.).
Требования
- Базовые навыки программирования на Python и желание писать чистый, понятный код
- Интерес и начальное понимание работы больших языковых моделей (LLM) и мультимодальных моделей (MLLM), а также связанных с ними рисков безопасности
- Английский язык на уровне, достаточном для чтения технической документации и статей (например, на arXiv)
- Базовые знания математической статистики для осмысленного участия в экспериментах.