Эксперт по красному тестированию безопасности ИИ — английский и финский, удалённая работа в США
Проводите атакующее тестирование разговорных моделей и агентов ИИ для проектов Mercor по созданию человеческих данных для ИИ. Создавайте воспроизводимые данные об уязвимостях, помогая укреплять передовые системы ИИ.
Описание
- Тестировать разговорные модели и агентов ИИ с помощью джейлбрейков, инъекций промптов, сценариев неправомерного использования, эксплуатации предвзятости и многоходовых манипуляций
- Аннотировать сбои, классифицировать уязвимости и выявлять системные риски
- Применять установленные таксономии, бенчмарки и руководства для последовательного проведения оценок
- Создавать воспроизводимые отчёты, наборы данных и примеры атак для клиентов
- Выявлять уязвимости, которые могут быть пропущены автоматизированным тестированием
- Расширять охват оценок и помогать сокращать число неожиданных проблем в продуктивной среде
- Работать с ведущими исследователями над проектами, которые обучают и совершенствуют системы ИИ
Требования
- Свободное или родное владение английским и финским языками
- Предыдущий опыт red teaming в сфере атак на ИИ, кибербезопасности или социотехнического тестирования
- Умение проводить атакующее тестирование систем ИИ и доводить их до точек отказа
- Опыт применения фреймворков или бенчмарков для структурированного тестирования
- Умение ясно сообщать о рисках технической и нетехнической аудитории
- Адаптивность при работе над разными проектами и с различными требованиями клиентов
- Готовность работать по договору с независимым подрядчиком
- Кандидат не должен иметь статус кандидата на визу H-1B или STEM OPT
- Желательно: опыт в области атакующего машинного обучения, включая наборы данных для джейлбрейков, инъекции промптов, атаки RLHF/DPO или извлечение моделей
- Желательно: опыт в кибербезопасности, включая тестирование на проникновение, разработку эксплойтов или обратную разработку
- Желательно: опыт оценки социотехнических рисков, включая тестирование на предмет домогательств или дезинформации, анализ злоупотреблений или тестирование разговорного ИИ
- Желательно: опыт в психологии, актёрском мастерстве или писательстве, способствующий нестандартному атакующему мышлению
Преимущества
- Полностью удалённая работа
- Гибкий график
- Еженедельные выплаты через Stripe или Wise
- Ресурсы для поддержания благополучия и чёткие правила для проектов с повышенной чувствительностью
- Возможность получить опыт в red teaming ИИ на основе человеческих данных
- Возможность напрямую помогать делать системы ИИ более устойчивыми, безопасными и заслуживающими доверия
- Конкурентная оплата
- Реферальный бонус до 250 долларов США за каждого успешного реферала