РоссияАльфаСтрахование
Инженер по безопасности AI/LLM
6 дн. назад
РоссияMiddleRemote
llmragmcpprompt injectionai securityai agentsappsecdevsecops
Роль инженера по безопасности AI/LLM в компании АльфаСтрахование с возможностью удалённой работы, направленная на формирование требований безопасности и анализ AI-систем.
О компании
- Компания: АльфаСтрахование.
Обязанности
- Формирование, согласование и актуализация требований информационной безопасности к системам и проектам с использованием AI и LLM.
- Анализ архитектуры, сценариев использования и потоков данных AI-систем, включая RAG, AI-агентов, MCP-интеграции и внешних LLM-провайдеров.
- Определение мер защиты и критериев допуска AI-решений к тестовой и промышленной эксплуатации.
- Сопровождение внедрения и эксплуатации LLM Security Gate, координация подключения новых моделей, приложений и команд.
- Разработка, настройка и актуализация политик контроля запросов, ответов, контекста и действий AI-агентов.
- Анализ событий и журналов LLM Security Gate, разбор ложных срабатываний и пропусков, корректировка политик и оценка эффективности мер защиты.
- Контроль рисков утечки конфиденциальной информации, персональных данных и секретов, атак prompt injection, небезопасных ответов и неконтролируемых действий AI-агентов.
- Разработка и актуализация AI Security Playbook: типовых требований ИБ, безопасных архитектурных шаблонов, чек-листов, моделирование угроз, сценариев испытаний и порядка обработки исключений.
- Взаимодействие с командами разработки, AppSec, DevSecOps, SOC, инфраструктурными подразделениями и поставщиками решений.
- Консультирование команд по безопасному внедрению и использованию AI-технологий и инструментов.
Требования
- Понимание принципов работы LLM-приложений, RAG, AI-агентов, MCP-интеграций и взаимодействия с внешними провайдерами моделей.
- Навыки анализа архитектуры и потоков данных, определения границ доверия, моделирования угроз и формирования проверяемых требований ИБ.
- Знание угроз AI-систем: prompt injection, утечки данных и секретов, небезопасные ответы, избыточные полномочия и неконтролируемые действия агентов.
- Понимание принципов работы LLM Security Gate и контроля запросов, ответов, контекста и вызовов инструментов.
- Навыки настройки политик безопасности, анализа журналов и событий, выявления ложно-положительных и ложно-отрицательных событий.
- Умение разрабатывать сценарии испытаний и оценивать эффективность защитных мер и выполнение критериев допуска к эксплуатации.
- Понимание принципов разграничения доступа, защиты конфиденциальной информации и персональных данных, безопасного хранения и использования секретов.
- Навыки подготовки AI Security Playbook, моделей угроз, чек-листов и безопасных архитектурных шаблонов.
- Умение согласовывать требования с техническими командами, оценивать исключения и консультировать по безопасному использованию AI.
Условия
- Можно работать удаленно.
- Опыт: 3–6 лет.
- Зарплата обсуждается на собеседовании.