Удалённый эксперт по безопасности ИИ (английский и тамильский)
Mercor ищет подрядчика по безопасности ИИ, свободно владеющего английским и тамильским языками, для проведения атакующих тестов разговорных моделей и агентов. Работа включает тестирование обходов ограничений, анализ уязвимостей, проверку вредоносного поведения и создание структурированных данных для разработки передовых систем ИИ.
Описание
- Проверять разговорные модели и агентов с помощью обходов ограничений, промпт-инъекций, сценариев злоупотребления, эксплуатации предвзятости и многошаговых манипуляций
- Создавать наборы данных, подготовленные людьми, аннотируя сбои, классифицируя уязвимости и выявляя системные риски
- Использовать установленные таксономии, тесты и руководства для единообразной оценки
- Разрабатывать воспроизводимые отчёты, наборы данных и примеры атак
- Оценивать ответы ИИ по чувствительным темам, включая предвзятость, дезинформацию и вредоносное поведение
- Расширять охват проверок, чтобы выявлять слабые места, которые могут оставаться незамеченными при автоматизированном тестировании
- Помогать лаборатории ИИ Mercor и корпоративным клиентам обучать и совершенствовать передовые системы ИИ
Требования
- Свободное владение английским и тамильским языками на уровне носителя или близком к нему
- Здравое суждение при оценке языка и контента, включая точность, полноту и уместность ответов ИИ
- Умение выявлять тонкие ошибки, несоответствия и пропуски
- Последовательное соблюдение руководств, таксономий, тестов, инструкций и стандартов качества
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Готовность работать над разными проектами, форматами заданий и с разными клиентами
- Способность работать в качестве независимого подрядчика
- В настоящее время поддержка кандидатов H1-B и STEM OPT не предоставляется
- Опыт в области состязательного машинного обучения, кибербезопасности, социотехнических рисков или творческого поиска уязвимостей будет преимуществом
Преимущества
- Полностью удалённая работа
- Гибкий график с возможностью выбирать удобное время работы
- Еженедельные выплаты через Stripe или Wise
- Конкурентоспособное вознаграждение
- Доступ к ресурсам для поддержания благополучия и чётким рекомендациям для проектов с повышенной чувствительностью
- Продолжительность проекта может измениться или проект может завершиться раньше в зависимости от потребностей бизнеса и результатов работы
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата