AI Security Engineer

Для однієї з найбільших фінансових установ України з мільйонами клієнтів шукаємо AI Security Engineer до нового R&D Hub. Роль на стику Application Security, AI Safety та Data Protection — із фокусом на захист LLM, AI-агентів і RAG-рішень. Що очікується буде виконуватись даною роллю: - AI Safety & Guardrails: Участь у розробці, налаштуванні та валідації технічних захисних бар’єрів (Guardrails) для контролю поведінки моделей, фільтрації вихідного контенту та системного скорочення галюцинацій ШІ. - Prompt Injection Defense: Побудова, інтеграція та моніторинг інструментів захисту в реальному часі (Real-time Defense) від маніпуляцій з інструкціями моделей, атак типу Prompt Injection та Jailbreak. - Автоматизоване PII Masking: Розробка суворих архітектурних вимог, пайплайнів та інструментів автоматичного маскування, токенізації чи анонімізації персональних даних (PII) клієнтів банку перед їх передачею в контекст LLM. - Організація та проведення регулярного атакуючого тестування ШІ-агентів, мультиагентних систем та RAG-архітектур на стійкість до специфічних AI-кібератак (отруєння даних, зсув логіки тощо). - AI Governance & Compliance: Створення та реалізація автоматизованих пайплайнів перевірки розробок на сувору відповідність актам та регулюванням AI (Наприклад: EU AI Act, майбутньому AI Act України та внутрішнім стандартам інформаційної безпеки Банку.) - Рев’ю коду ШІ-додатків, контроль безпеки контейнерів/подів у Kubernetes та налаштування безпечної взаємодії хмарних AI-компонентів із Core-системами банку. Основні вимоги: - Досвід від 3 років у сфері кібербезпеки на позиціях Application Security / Product Security / DevSecOps або Cloud Security Engineer. - Знання ШІ-загроз, а саме глибоке розуміння специфіки безпеки великих мовних моделей, практичне знання фреймворків OWASP Top 10 for LLM та MITRE ATLAS або інших. - Досвід роботи з Guardrails/Funnels, практичні навички роботи з інструментами контролю контексту та безпеки ШІ - Експертиза в Data Protection та розуміння методів деперсоналізації, токенізації та динамічного маскування конфіденційних даних (PII). - Досвід інтеграції засобів безпеки в CI/CD пайплайни, знання вразливостей платформ контейнеризації (Docker, Kubernetes). - Розуміння AI-регуляцій та вимог EU AI Act (особливо в розрізі High-Risk систем, прозорості моделей та Explainable AI). - Англійська мова: Не нижче B1.