Эксперт по безопасности ИИ (английский и телугу) — удалённый контракт
Проводите red-team-оценки диалоговых моделей и агентов ИИ для Mercor, уделяя внимание безопасности на английском и телугу. Создавайте данные об уязвимостях, атаки и воспроизводимые отчёты для поддержки более безопасной разработки ИИ.
Описание
- Тестировать диалоговые модели и агентов ИИ с помощью джейлбрейков, инъекций промптов, сценариев неправильного использования, эксплуатации предвзятости и многоходовых манипуляций
- Аннотировать сбои, классифицировать уязвимости и выявлять системные риски
- Использовать таксономии, бенчмарки и плейбуки для последовательного проведения оценок
- Создавать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Оценивать результаты работы ИИ, связанные с предвзятостью, дезинформацией, вредным поведением и другими чувствительными темами
- Участвовать в проектах по обучению и улучшению систем ИИ
- Выявлять уязвимости, которые не обнаруживаются автоматизированным тестированием
- Расширять охват оценок, чтобы помогать снижать число неожиданных проблем в продуктивной среде
Требования
- Свободное владение английским и телугу на уровне родного языка
- Здравое суждение при оценке точности, полноты и уместности ответов ИИ
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Исключительное внимание к незначительным ошибкам, несоответствиям и пропускам
- Последовательное соблюдение руководств и стандартов качества
- Гибкость при работе над разными проектами, форматами задач и с разными клиентами
- Готовность работать в качестве независимого подрядчика
- Не быть кандидатом на визу H-1B или STEM OPT; релевантные специализации могут включать состязательное машинное обучение, наборы данных для джейлбрейков, инъекции промптов, атаки RLHF/DPO, извлечение моделей, тестирование на проникновение, разработку эксплойтов, обратную разработку, проверку на домогательства или дезинформацию, анализ злоупотреблений, тестирование диалогового ИИ, психологию, актёрское мастерство или писательскую деятельность.
- льготы
Преимущества
- Полностью удалённая работа по расписанию, которое вы устанавливаете сами
- Еженедельные выплаты через Stripe или Wise за оказанные услуги
- Опыт red-team-работы с ИИ на основе человеческих данных, ориентированной на передовую безопасность
- Помощь в создании более устойчивых, безопасных и надёжных систем ИИ
- Возможность выбирать участие в проектах с повышенной чувствительностью
- Доступ к понятным инструкциям и ресурсам для поддержания благополучия в проектах с повышенной чувствительностью
- Возможность запросить разумные условия адаптации
- До 90 долларов за каждую успешную рекомендацию без указанного ограничения на их количество