Удалённый эксперт по безопасности ИИ — английский и ассамский языки (контракт)
Mercor ищет удалённого контрактного эксперта по безопасности ИИ, свободно владеющего английским и ассамским языками, для проведения red team-тестирования передовых моделей, оценки уязвимостей и создания качественных данных от людей для проектов по безопасности ИИ.
Описание
- Проводить red team-тестирование разговорных моделей и агентов ИИ с использованием джейлбрейков, внедрения промптов, сценариев злоупотребления, эксплуатации предвзятости и многоходовых манипуляций
- Создавать размеченные людьми данные: аннотировать сбои, классифицировать уязвимости и выявлять системные риски
- Использовать таксономии, бенчмарки и рабочие инструкции для обеспечения последовательности оценок
- Разрабатывать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Оценивать ответы ИИ на чувствительные темы, включая предвзятость, дезинформацию и вредоносное поведение
- Выявлять уязвимости, которые не обнаруживаются автоматизированным тестированием
- Расширять охват оценок, чтобы помогать минимизировать непредвиденные проблемы в продуктивной среде
- Участвовать в проектах по обучению и совершенствованию передовых систем ИИ
Требования
- Свободное владение английским и ассамским языками на уровне носителя
- Здравое суждение при оценке качества языка и контента
- Умение определять, являются ли ответы ИИ точными, полными и уместными
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Исключительное внимание к нюансам ошибок, несоответствий и пропусков
- Умение последовательно применять руководства, таксономии, бенчмарки, рабочие инструкции и стандарты качества
- Готовность работать над разными проектами, форматами заданий и задачами клиентов
- Необходимо работать в качестве независимого подрядчика
- В настоящее время поддержка кандидатов с визами H-1B и STEM OPT невозможна
- Предпочтительные области экспертизы включают состязательное машинное обучение, кибербезопасность, социотехнические риски, оценку разговорного ИИ, психологию, актёрское мастерство и писательское дело
Преимущества
- Полностью удалённая работа
- Возможность составить удобный для себя график
- Еженедельные выплаты через Stripe или Wise
- Практический опыт red team-тестирования ИИ на основе данных, созданных людьми
- Возможность помогать делать системы ИИ более устойчивыми, безопасными и заслуживающими доверия
- Сотрудничество с ведущими исследователями ИИ
- По запросу доступны разумные условия адаптации
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата с учётом применимых ограничений