Эксперт по безопасности ИИ (английский и бенгальский) — удалённый контракт
Mercor ищет контрактного эксперта по безопасности ИИ со свободным владением английским и бенгальским языками для проведения red team-тестирования разговорных моделей и агентов. Работа включает расследование уязвимостей, оценку чувствительных ответов и создание воспроизводимых данных по безопасности для клиентов, занимающихся исследованиями ИИ.
Описание
- Тестировать разговорные модели и агентов с помощью джейлбрейков, внедрения промптов, сценариев злоупотребления, эксплуатации предвзятости и многоходовых манипуляций
- Создавать размеченные людьми данные, документируя сбои, классифицируя уязвимости и выявляя системные риски
- Использовать утверждённые таксономии, бенчмарки и инструкции для последовательного проведения оценок
- Разрабатывать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Оценивать ответы моделей, связанные с предвзятостью, дезинформацией, вредоносным поведением и другими чувствительными темами
- Расширять охват оценок, выявляя слабые места, которые могут оставаться незамеченными при автоматизированном тестировании
Требования
- Владение английским и бенгальским языками на уровне носителя
- Здравое суждение при оценке точности, полноты и уместности языка и содержания
- Способность выявлять тонкие ошибки, несоответствия и недостающую информацию
- Неукоснительное соблюдение установленных рекомендаций и требований к качеству
- Способность ясно объяснять ход рассуждений технической и нетехнической аудитории
- Готовность работать над разными проектами, с различными форматами задач и клиентами
- Необходимо работать в качестве независимого подрядчика
- Не требуется спонсорство H-1B или STEM OPT; приветствуется опыт в состязательном машинном обучении, кибербезопасности, социотехнических рисках или творческом поиске уязвимостей.
- Преимущества
Преимущества
- Полностью удалённая контрактная работа
- Возможность самостоятельно составлять рабочий график
- Еженедельные выплаты через Stripe или Wise
- Проекты могут быть продлены, сокращены или завершены досрочно в зависимости от потребностей бизнеса и результатов работы
- Возможность по желанию участвовать в проектах с повышенной чувствительностью
- Понятные процедуры и ресурсы для поддержки благополучия при работе с чувствительным содержанием
- По запросу доступны разумные условия адаптации
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата