Эксперт по red teaming безопасности ИИ — английский и тамильский, удалённый контракт
Тестируйте разговорные модели и агентов ИИ на уязвимости с помощью adversarial-проверок и структурированного red team-анализа. Создавайте сценарии атак, данные об уязвимостях и воспроизводимые отчёты для клиентов лаборатории ИИ Mercor.
Описание
- Проверять разговорные модели и агентов ИИ с помощью jailbreak-атак, prompt injection, сценариев неправильного использования, эксплуатации предвзятости и многоходовых манипуляций
- Создавать данные с разметкой экспертов, документируя сбои, классифицируя уязвимости и выявляя системные риски
- Использовать установленные таксономии, бенчмарки и плейбуки для обеспечения единообразия оценок
- Разрабатывать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Оценивать ответы ИИ, связанные с предвзятостью, дезинформацией, вредоносным поведением и другими чувствительными темами
- Выявлять слабые места, которые могут не обнаруживаться автоматизированным тестированием
- Расширять охват оценивания и помогать предотвращать неожиданные проблемы в продуктивной среде
- Совершенствовать системы ИИ клиентов и вносить вклад в создание более безопасных и надёжных моделей
Требования
- Свободное владение английским и тамильским языками на уровне носителя
- Здравое суждение при оценке языка и контента
- Умение определять, являются ли ответы ИИ точными, полными и уместными, а также объяснять свою оценку
- Внимательность к тонким ошибкам, несоответствиям и пропускам
- Умение последовательно применять руководства и стандарты качества
- Чёткое объяснение рассуждений технической и нетехнической аудитории
- Гибкость при работе над разными проектами, в различных форматах задач и с разными клиентами
- Желательно: опыт adversarial machine learning, включая наборы данных для jailbreak-атак, prompt injection, атаки RLHF или DPO либо извлечение моделей
- Желательно: опыт в кибербезопасности, включая тестирование на проникновение, разработку эксплойтов или обратную разработку
- Желательно: опыт работы с социотехническими рисками, такими как исследование домогательств и дезинформации, анализ злоупотреблений или тестирование разговорного ИИ
- Желательно: опыт творческого зондирования в психологии, актёрском мастерстве или писательстве
- Необходимо работать в качестве независимого подрядчика
- Кандидаты с визами H-1B и STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа
- Гибкий график с возможностью самостоятельно выбирать рабочие часы
- Еженедельные выплаты через Stripe или Wise
- Конкурентная почасовая оплата
- Возможность получить опыт red teaming ИИ на основе данных, созданных людьми, с фокусом на передовую безопасность
- Непосредственный вклад в создание более устойчивых, безопасных и надёжных систем ИИ
- Возможность по желанию участвовать в проектах с повышенной чувствительностью
- Рекомендации и ресурсы по поддержанию благополучия для проектов, связанных с чувствительным контентом
- Разумные условия и адаптации доступны по запросу
- Реферальная программа с выплатой до 90 долларов США за каждого успешного кандидата при соблюдении ограничений программы