Эксперт по безопасности ИИ, английский и нидерландский языки (удалённый контракт)
Mercor ищет экспертов по безопасности ИИ, владеющих английским и нидерландским языками, для проведения red team-тестирования разговорных моделей и агентов. Работа включает создание данных об уязвимостях, сценариев атак и воспроизводимых отчётов по безопасности для разработки передовых систем ИИ.
Описание
- Тестировать разговорные модели и агентов ИИ с использованием джейлбрейков, внедрения промптов, сценариев неправомерного использования, эксплуатации предвзятости и многоходовых манипуляций
- Создавать данные, подготовленные людьми, аннотируя сбои, классифицируя уязвимости и выявляя системные риски
- Использовать таксономии, бенчмарки и руководства для последовательного тестирования безопасности
- Разрабатывать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Находить уязвимости, которые могут быть упущены автоматизированным тестированием
- Расширять охват оценивания, чтобы снижать непредвиденные риски в продакшене
- Работать с ведущими исследователями над обучением и улучшением передовых систем ИИ
Требования
- Свободное владение английским и нидерландским языками на уровне носителя
- Предыдущий опыт red team-тестирования ИИ, наступательной работы в сфере кибербезопасности или социотехнического зондирования
- Умение проводить состязательное тестирование систем ИИ и доводить их до условий отказа
- Опыт применения фреймворков или бенчмарков для структурированного тестирования
- Умение ясно сообщать о рисках технической и нетехнической аудитории
- Способность адаптироваться к различным проектам и клиентам
- Опыт в состязательном машинном обучении, включая наборы данных для джейлбрейков, внедрение промптов, атаки RLHF/DPO или извлечение моделей, является преимуществом
- Опыт в кибербезопасности, включая тестирование на проникновение, разработку эксплойтов или обратную разработку, является преимуществом
- Опыт оценки социотехнических рисков, включая исследование домогательств или дезинформации, анализ злоупотреблений или тестирование разговорного ИИ, является преимуществом
- Опыт творческого зондирования в психологии, актёрском мастерстве или писательстве является преимуществом
- Необходимо иметь возможность работать в качестве независимого подрядчика
- Кандидаты с H-1B и STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа
- Гибкий график с возможностью самостоятельно выбирать рабочие часы
- Еженедельные выплаты через Stripe или Wise в зависимости от оказанных услуг
- Проекты могут быть продлены, сокращены или завершены досрочно в зависимости от потребностей бизнеса и результатов работы
- Участие в проектах с повышенной чувствительностью является необязательным
- Предоставляются рекомендации по работе с контентом и ресурсы для поддержания благополучия
- Разумные условия размещения доступны по запросу
- Конкурентная почасовая оплата
- Возможность получить до 250 долларов США за каждого успешного реферала с учётом ограничений