Эксперт по оценке защищенности приложений на GenAI-моделях (LLM)

Вакансия № 36779847 от компании Сбер для экспертов на Электронной Службе Занятости Населения Москвы.

✷ Смотрите другие предложения работы от компании Сбер для экспертов.

☑ Основной блок:

Опыт работы: 1–3 года.

Тип занятости: полная занятость.

График работы: полный день.

Зарплата: по результату собеседования.

Примерное место работы: Россия, Москва.

☑ Актуальность объявления:

Это объявление № 36779847 добавлено в базу данных: Четверг, 20 февраля 2025 года.

Дата его обновления на этом интернет-ресурсе: Воскресенье, 16 марта 2025 года.

☑ Статистика предложения работы № 36779847:

Прочитано соискателями - 1 раз(а);
Отправлено откликов - 0 раз(а);

☑ Репутация компании "Сбер для экспертов":

Читайте свежие отзывы сотрудников об этом работодателе здесь!

Оставить своё мнение об этой компании можно тут без регистрации и бесплатно.

☑ Подробности о вакантном месте:

В нашу команду RedTeam AI ищем Эксперта по оценке защищенности приложений, основанных на GenAI-моделях (LLM)

Обязанности работника:

Обеспечивать безопасность GenAI-моделей и приложений с их использованием, используемых миллионами пользователей
Анализировать приложения, основанные на GenAI-моделях, выявлять угрозы и уязвимости с учетом появления новых методов атак
Имитировать реальные атаки (например, через эксплуатацию уязвимостей API, внедрение вредоносных данных через пользовательский ввод или RAG).
Разрабатывать рекомендации и требования безопасности для приложений, основанных на GenAI-моделях, с учетом появления новых методов защиты
Выполнять подготовку заключений и рекомендаций по повышению защищенности
Взаимодействовать с разработчиками для улучшения безопасности приложений
Участвовать и выступать на ключевых внешних и внутренних ИТ-мероприятиях, публиковать статьи и технические отчеты
Отслеживать современные тренды в области безопасности GenAI
Разрабатывать собственные инструменты и скрипты для поиска уязвимостей в GenAI-приложениях

Требования к работнику:

Мы ожидаем, что Вы:

Имеете высшее образование в области информационной безопасности или компьютерных наук, либо эквивалентный практический опыт
Понимаете процессы, связанные с разработкой приложений
Ориентируетесь и можете анализировать архитектуры приложений на наличие «узких» мест и потенциальных уязвимостей и недостатков
Понимаете и владеете методами пентеста и редтиминга
Знаете основы безопасности GenAI и основные угрозы для GenAI (OWASP Top 10 for LLM, MITRE ATLAS)
Владеете методиками создания моделей угроз
Владеете математической статистикой и теорией вероятности
Понимаете основы работы современных LLM/MLLM, а также трудности с safety/security LLM/MLLM моделей и (мульти-)агентных систем на их основе
Владеете навыками деловой переписки, формирования отчетной документации, интерпретации результатов работы как бизнес-результатов
Имеете 2+ лет релевантного опыта работы (в том числе пентеста), включая опыт в академической среде или CTF-командах

Будет плюсом:

Участие в CTF или соревнованиях по атакам на GenAI-модели
Вклад в исследования в области безопасности искусственного интеллекта (CVES, выступления на конференциях).
Владение Python, опыт работы с PyTorch, transformers, LangChain, rigging, TransformerLens или аналогичными библиотеками
Опыт представления результатов своей работы широкой аудитории

Условия труда:

ДМС с первого дня, cпециальные условия страхования для ближайших родственников;
Льготные условия кредитования, ипотеки;
Cпортзал (фитнес, йога, кроссфит);
Возможность посещения (как в качестве слушателя, так и в качестве выступающего) IT-конференций;
Работа в команде профессионалов, возможность разрабатывать уникальные и крупные проекты масштаба всей страны;
Высокие премии по итогам успешной работы