O ofercie
Специалист будет отвечать за проверку безопасности AI/LLM-решений, включая LLM-приложения, AI-агентов, RAG и интеграции с внешними API и облачными моделями. В зоне ответственности также будут threat modeling, тестирование защитных механизмов и формирование требований безопасности для продуктовых команд.
Обязанности
- Проводить security review AI/LLM-решений: LLM-приложений, AI-агентов, RAG, векторных БД, интеграций с внешними API и облачными LLM.
- Участвовать в threat modeling AI-решений, включая prompt injection, jailbreak, утечки данных, небезопасные tool calls, избыточные привилегии AI-агента и RAG/data poisoning.
- Проверять наличие и корректность защитных механизмов: guardrails, фильтров персональных данных, ограничений длины prompt/response, rate limiting, валидации ответов и контроля вызовов tools.