ActiveFence — компания в сфере кибербезопасности и искусственного интеллекта, специализирующаяся на обеспечении доверия и безопасности онлайн-платформ. Комплексное решение компании объединяет аналитические исследования, обнаружение вредоносного контента на основе ИИ и инструменты модерации контента, помогая платформам противостоять таким угрозам, как сексуальная эксплуатация детей, дезинформация, разжигание ненависти, терроризм, материалы сексуального характера, мошенничество и другие виды вредоносной активности в интернете. ActiveFence поддерживает команды, отвечающие за доверие и безопасность, независимо от их размера, помогая защищать более трёх миллиардов пользователей по всему миру на более чем 100 языках.
AI Red Team — адверсариальная оценка генеративного ИИ в ActiveFence
Разрабатывайте адверсариальные атаки, наборы данных и бенчмарки для платформы безопасности ИИ ActiveFence. Проверяйте устойчивость больших языковых моделей с помощью ред-тиминга и исследования уязвимостей.
Описание
- Разрабатывайте новые адверсариальные атаки.
- Помогайте создавать масштабируемые системы для генерации и тестирования атак.
- Оценивайте качество, эффективность, новизну и воспроизводимость атак.
- Выявляйте новые модели атак и уязвимости моделей.
- Создавайте адверсариальные наборы данных, бенчмарки и регрессионные тесты.
- Делитесь результатами, методами и структурированными данными об атаках с командами Data Science, Security и Engineering.
- Участвуйте в повышении устойчивости моделей и укреплении защиты.
Требования
- Не менее трёх лет профессионального опыта в кибербезопасности, исследованиях безопасности, ред-тиминге или смежной области.
- Степень бакалавра в области Data Science, компьютерной инженерии, информатики или близкой технической специальности.
- Глубокие знания больших языковых моделей, внедрения промптов и безопасности ИИ.
- Опыт ред-тиминга, исследований безопасности или адверсариального тестирования.
- Уверенное владение Python и навыками автоматизации.
- Творческий подход к решению задач и способность разрабатывать новые методы атак.
- Умение анализировать результаты и ясно излагать выводы.
- Предпочтительны сертификаты по наступательной кибербезопасности, например OSWA, OSWE, OSCE3, SEC542 или SEC522.