Удалённый эксперт по безопасности ИИ (английский и тамильский)
Mercor ищет эксперта по безопасности ИИ, владеющего английским и тамильским языками, для стресс-тестирования разговорных моделей и агентов. В рамках контрактной работы предстоит выявлять уязвимости, оценивать чувствительные ответы и создавать воспроизводимые данные по безопасности для обучения передовых ИИ-систем.
Описание
- Проводить стресс-тестирование разговорных моделей и агентов с помощью джейлбрейков, внедрения промптов, сценариев злоупотребления, эксплуатации предвзятости и многоходовых манипуляций
- Размечать сбои, классифицировать уязвимости и выявлять системные риски
- Последовательно применять установленные таксономии, бенчмарки и сценарии тестирования
- Создавать воспроизводимые отчёты, наборы данных и примеры атак
- Оценивать ответы ИИ, связанные с предвзятостью, дезинформацией, вредоносным поведением и другими чувствительными темами
- Расширять охват оценки, находя слабые места, которые могут оставаться незамеченными при автоматизированном тестировании
- Работать с проектными командами, разрабатывающими и совершенствующими передовые ИИ-системы
Требования
- Свободное или носительское владение английским и тамильским языками
- Здравое суждение при оценке языка и содержания
- Умение определять, являются ли ответы ИИ точными, полными и уместными
- Внимательность к малозаметным ошибкам, несоответствиям и пропускам
- Последовательное соблюдение руководств и стандартов качества
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Готовность работать над разными проектами, с различными форматами задач и заказчиками
- Готовность работать в качестве независимого подрядчика
- Отсутствие необходимости в спонсорстве визы H-1B или STEM OPT
- Желателен опыт в состязательном машинном обучении, кибербезопасности, социотехнических рисках или творческом поиске уязвимостей
Преимущества
- Полностью удалённая работа
- Гибкий график
- Еженедельные выплаты через Stripe или Wise
- Конкурентная компенсация
- Опыт работы с красным тестированием ИИ на основе данных, собранных людьми
- Возможность сделать ИИ-системы более устойчивыми, безопасными и заслуживающими доверия
- Сотрудничество с ведущими исследователями
- Разумные условия адаптации доступны по запросу
- Реферальные выплаты до 90 долларов за каждого успешного рекомендованного кандидата