Эксперт по красному тестированию безопасности ИИ (английский и пенджаби)
Mercor ищет эксперта по безопасности ИИ, владеющего английским и пенджаби, для проведения атакующего тестирования разговорных моделей и агентов. В рамках контрактной работы предстоит выявлять уязвимости, создавать сценарии атак и готовить воспроизводимые отчёты о безопасности для клиентов, занимающихся исследованиями ИИ.
Описание
- Тестировать разговорные модели и агентов с помощью джейлбрейков, инъекций промптов, сценариев неправильного использования, эксплуатации предвзятости и многошаговых манипуляций
- Оценивать ответы моделей по чувствительным темам, включая предвзятость, дезинформацию и вредоносное поведение
- Документировать сбои, классифицировать уязвимости и выявлять системные риски
- Использовать утверждённые таксономии, бенчмарки и руководства для единообразной оценки
- Создавать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Исследовать системы ИИ на наличие слабых мест, которые могут быть не обнаружены автоматизированным тестированием
- Расширять охват оценки, чтобы снизить вероятность неожиданных проблем в продуктивной среде
- Совершенствовать системы ИИ клиентов с помощью ручного тестирования на основе данных
Требования
- Свободное владение английским и пенджаби на уровне носителя или близком к нему
- Развитое критическое мышление при оценке языка и контента
- Умение определять, являются ли ответы ИИ точными, полными и уместными, а также объяснять свою оценку
- Исключительная внимательность к незначительным ошибкам, несоответствиям и пропускам
- Последовательное соблюдение руководств по тестированию и стандартов качества
- Умение ясно объяснять ход рассуждений как технической, так и нетехнической аудитории
- Готовность работать с разными проектами, форматами заданий и клиентами
- Готовность работать в качестве независимого подрядчика
- Не требуется поддержка по визе H-1B или STEM OPT
- Желательны знания в области состязательного машинного обучения, наборов данных для джейлбрейков, атак с помощью инъекций промптов, атак на RLHF/DPO, извлечения моделей, тестирования на проникновение, разработки эксплойтов, обратной инженерии, выявления домогательств или дезинформации, анализа злоупотреблений, тестирования разговорного ИИ, психологии, актёрского мастерства или написания текстов
Преимущества
- Удалённая работа из любой точки, разрешённой условиями роли
- Самостоятельное планирование рабочего времени
- Еженедельные выплаты через Stripe или Wise за оказанные услуги
- Проекты могут быть продлены, сокращены или завершены досрочно в зависимости от потребностей бизнеса и результатов работы
- Доступ к ресурсам для поддержания благополучия и понятным рекомендациям для проектов с повышенной чувствительностью
- Получение опыта в атакующем тестировании ИИ на основе человеческих данных
- Возможность сделать системы ИИ более устойчивыми, безопасными и надёжными
- Конкурентоспособное вознаграждение
- Сотрудничество с ведущими исследователями ИИ