Удалённый эксперт по безопасности ИИ (английский и телугу)
Mercor ищет специалиста по red teaming в области безопасности ИИ, свободно владеющего английским и телугу, для выявления уязвимостей передовых моделей ИИ. Работа включает создание adversarial-тестов, структурированных наборов данных и воспроизводимых отчётов.
Описание
- Тестировать разговорные модели ИИ и агентов с помощью джейлбрейков, prompt injection, сценариев неправомерного использования, эксплуатации предвзятости и многошаговых манипуляций
- Документировать сбои, классифицировать уязвимости и выявлять системные риски
- Применять установленные таксономии, бенчмарки и руководства для последовательного проведения оценок
- Создавать воспроизводимые отчёты, наборы данных и примеры adversarial-атак
- Оценивать результаты работы ИИ на предмет предвзятости, дезинформации, вредоносного поведения и других рисков, связанных с чувствительным контентом
- Расширять охват оценок, чтобы выявлять уязвимости, которые могут быть упущены при автоматизированном тестировании
- Участвовать в проектах по обучению и совершенствованию передовых систем ИИ
Требования
- Свободное владение английским и телугу на уровне носителя
- Здравое суждение при оценке точности, полноты и уместности ответов ИИ
- Умение выявлять тонкие ошибки, несоответствия и пропуски
- Последовательное соблюдение руководств и стандартов качества
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Готовность работать над разными проектами, форматами заданий и с разными заказчиками
- Готовность работать в качестве независимого подрядчика
- Не требовать поддержки по визам H-1B или STEM OPT
- Опыт в области adversarial machine learning, кибербезопасности, социотехнических рисков или творческого поиска уязвимостей будет преимуществом
Преимущества
- Полностью удалённая работа
- Возможность самостоятельно выбирать график
- Еженедельные выплаты через Stripe или Wise
- Продолжительность проекта может измениться или проект может завершиться досрочно в зависимости от потребностей бизнеса и результатов работы
- Конкурентная почасовая оплата
- Получение опыта в red teaming ИИ на основе данных, собранных при участии людей
- Помощь в повышении надёжности, безопасности и заслуживающего доверия характера систем ИИ
- Разумные условия адаптации доступны по запросу
- До 90 долларов за каждого успешного привлечённого кандидата