Эксперт по безопасности ИИ — английский и финский (удалённо)
Mercor ищет специалистов по безопасности ИИ, говорящих на английском и финском языках, для проведения red team-тестирования разговорных моделей и агентов ИИ. Работа включает создание воспроизводимых данных об уязвимостях и сценариев атак для проектов по обучению передовых систем ИИ.
Описание
- Проводить состязательное тестирование разговорных моделей и агентов ИИ с использованием джейлбрейков, внедрения промптов, сценариев неправомерного использования, эксплуатации предвзятости и многошаговых манипуляций
- Документировать сбои, классифицировать уязвимости и выявлять системные риски
- Применять установленные таксономии, бенчмарки и руководства для последовательного проведения оценок
- Создавать воспроизводимые отчёты, наборы данных и сценарии атак
- Исследовать результаты работы моделей, связанные с предвзятостью, дезинформацией и вредоносным поведением
- Расширять охват оценок, чтобы выявлять уязвимости, которые могут быть упущены автоматизированным тестированием
- Работать с проектными командами, поддерживающими обучение и совершенствование передовых систем ИИ
Требования
- Свободное владение английским и финским языками или уровень носителя
- Предыдущий опыт red team-тестирования в области состязательного тестирования ИИ, кибербезопасности или социотехнического зондирования
- Подтверждённая способность проводить состязательное тестирование систем ИИ
- Умение работать с фреймворками, таксономиями, бенчмарками и руководствами
- Умение ясно сообщать о рисках технической и нетехнической аудитории
- Готовность адаптироваться к различным проектам и заказчикам
- Необходимо работать в качестве независимого подрядчика
- Необходимо уметь работать без конфиденциальной или служебной информации, принадлежащей другому работодателю, клиенту или учреждению
- Кандидаты с визами H-1B и STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа по контракту
- Гибкий график с возможностью самостоятельно выбирать рабочие часы
- Возможность участвовать в проектах с повышенными требованиями к конфиденциальности
- Понятные инструкции и ресурсы для поддержания благополучия
- Еженедельные выплаты через Stripe или Wise
- Конкурентная оплата
- Реферальная программа с выплатой до 250 долларов США за каждого успешного кандидата
- Разумные условия адаптации доступны по запросу