Удалённый эксперт по безопасности ИИ (английский и одия) — контракт
Mercor ищет эксперта по безопасности ИИ, свободно владеющего английским и одия, для проведения red team-тестирования разговорных моделей ИИ при обучении передовых моделей. Работа включает создание аннотаций уязвимостей, атакующих сценариев, наборов данных и воспроизводимых отчётов по безопасности.
Описание
- Тестировать разговорные модели и агентов ИИ с помощью джейлбрейков, инъекций промптов, сценариев неправомерного использования, эксплуатации предвзятости и многошаговых манипуляций.
- Документировать сбои, классифицировать уязвимости и выявлять системные риски.
- Использовать утверждённые таксономии, бенчмарки и руководства, чтобы поддерживать единообразие оценок.
- Создавать воспроизводимые отчёты по безопасности, наборы данных и атакующие сценарии.
- Исследовать ответы моделей на предмет предвзятости, дезинформации и вредоносного поведения.
- Поддерживать обучение и совершенствование передовых систем ИИ для лаборатории ИИ Mercor и корпоративных клиентов.
Требования
- Свободное владение английским и одия на уровне носителя.
- Здравое суждение при оценке языка и контента.
- Способность определять, являются ли ответы ИИ точными, полными и уместными, а также объяснять ход рассуждений.
- Высокая внимательность к тонким ошибкам, несоответствиям и пропускам.
- Способность надёжно следовать рекомендациям и стандартам качества.
- Способность ясно объяснять ход рассуждений как технической, так и нетехнической аудитории.
- Готовность работать над различными проектами, форматами заданий и с разными клиентами.
- Готовность работать в качестве независимого подрядчика.
- Кандидаты не должны быть участниками программ H-1B или STEM OPT.
- Желателен опыт или специализация в области состязательного машинного обучения, кибербезопасности, социотехнических рисков или творческого зондирования.
Преимущества
- Полностью удалённая работа.
- Гибкий график.
- Возможность по желанию участвовать в проектах с повышенной чувствительностью.
- Рекомендации и ресурсы для поддержания благополучия при работе над проектами, связанными с чувствительным контентом.
- Еженедельные выплаты через Stripe или Wise.
- Конкурентоспособная оплата.
- Возможность сотрудничать с ведущими исследователями.
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата.