Эксперт по безопасности ИИ Mercor — английский и гуджарати, удалённый контракт в США
Проводите оценки безопасности разговорных моделей и агентов ИИ с участием человека для Mercor. Создавайте данные об уязвимостях, сценарии атак и воспроизводимые оценки безопасности на английском и гуджарати.
Описание
- Проводить red-team-тестирование разговорных моделей и агентов ИИ с использованием джейлбрейков, внедрения промптов, сценариев неправомерного использования, эксплуатации предвзятости и многошаговых манипуляций
- Аннотировать сбои, классифицировать уязвимости и эскалировать системные риски
- Использовать установленные таксономии, бенчмарки и руководства для обеспечения последовательности оценок
- Создавать воспроизводимые отчёты, наборы данных и сценарии атак
- Оценивать результаты работы ИИ, связанные с предвзятостью, дезинформацией, вредоносным поведением и другими чувствительными темами
- Выявлять слабые места, которые могут быть упущены автоматизированным тестированием
- Расширять охват оценок и помогать ограничивать неожиданные проблемы в рабочей среде
- Улучшать клиентские системы ИИ с помощью созданного людьми red-team-тестирования на основе данных
Требования
- Свободное владение английским и гуджарати на уровне носителя
- Здравое суждение при оценке языка и контента
- Способность определять, являются ли ответы ИИ точными, полными и уместными, и объяснять результаты оценки
- Высокая внимательность к тонким ошибкам, несоответствиям и упущениям
- Последовательное соблюдение руководств и стандартов качества
- Чёткое объяснение рассуждений как технической, так и нетехнической аудитории
- Готовность работать с разными проектами, форматами заданий и клиентами
- Готовность работать в качестве независимого подрядчика
- Кандидат не должен иметь статус H-1B или STEM OPT
- Желателен опыт в области состязательного машинного обучения, кибербезопасности, социотехнических рисков или творческого исследования уязвимостей
Преимущества
- Полностью удалённая контрактная работа
- Гибкий график
- Еженедельные выплаты через Stripe или Wise
- Возможность участвовать в проектах с повышенной чувствительностью
- Рекомендации и ресурсы для поддержания благополучия при работе с чувствительным контентом
- Конкурентоспособная оплата
- Возможность сотрудничать с ведущими исследователями
- Разумные условия для людей с инвалидностью предоставляются по запросу
- Реферальная программа с выплатой до 90 долларов США за каждого успешного кандидата