Удалённый эксперт по безопасности ИИ — английский и гуджарати
Проводите адверсариальное тестирование моделей и агентов ИИ партнёров, выявляя уязвимости, предвзятость и вредоносное поведение. Создавайте размеченные наборы данных, сценарии атак и воспроизводимые отчёты для улучшения оценки передовых систем ИИ.
Описание
- Тестировать разговорные модели и агентов ИИ с помощью джейлбрейков, промпт-инъекций, сценариев неправильного использования, эксплуатации предвзятости и многошаговых манипуляций
- Создавать данные, подготовленные людьми, размечая сбои, классифицируя уязвимости и выявляя системные риски
- Применять утверждённые таксономии, бенчмарки и рабочие инструкции для поддержания единообразия оценок
- Разрабатывать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Оценивать ответы ИИ, связанные с предвзятостью, дезинформацией, вредоносным поведением и другими чувствительными темами
- Выявлять слабые места, которые не обнаруживает автоматизированное тестирование
- Расширять охват оценок, чтобы помогать снижать число неожиданных проблем в рабочей среде
- Улучшать системы ИИ клиентов с помощью структурированного адверсариального тестирования
Требования
- Требуется свободное владение английским и гуджарати на уровне носителя
- Подтверждённая способность оценивать язык и содержание, в том числе определять точность, полноту и уместность ответов ИИ, а также объяснять свою оценку
- Высокая внимательность к незначительным ошибкам, несоответствиям и пропускам
- Способность последовательно применять инструкции и стандарты качества
- Способность ясно объяснять ход рассуждений как технической, так и нетехнической аудитории
- Готовность работать над разными проектами, типами задач и с разными клиентами
- Взаимодействие оформляется в рамках договора с независимым подрядчиком
- Кандидаты не должны иметь статус участников программ H-1B или STEM OPT
- Предпочтителен опыт в области адверсариального машинного обучения, кибербезопасности, социотехнических рисков или творческого поиска уязвимостей
Преимущества
- Полностью удалённая работа по удобному для вас графику
- Еженедельные выплаты через Stripe или Wise за оказанные услуги
- Возможность выбирать участие в проектах с повышенной чувствительностью
- Доступ к понятным инструкциям и ресурсам для поддержания благополучия при работе с чувствительным контентом
- Конкурентная оплата
- Сотрудничество с ведущими исследователями
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата с учётом применимых ограничений