Специалист по красному тестированию безопасности ИИ — удалённый контракт (США)
Mercor ищет специалиста по красному тестированию безопасности ИИ для выявления уязвимостей передовых моделей ИИ с помощью состязательного тестирования. Работа включает разработку промптов и оценку высокорискового поведения моделей совместно с исследователями безопасности ИИ.
Описание
- Создавать состязательные промпты для проверки передовых моделей ИИ
- Выявлять джейлбрейки, небезопасное поведение, галлюцинации и нарушения политик
- Оценивать устойчивость моделей в таких областях, как дезинформация, кибербезопасность, биобезопасность, мошенничество, политический контент и другие чувствительные темы
- Документировать уязвимости и поддерживать разработку бенчмарков безопасности и отчётов по красному тестированию
- Сотрудничать с исследователями ИИ для повышения согласованности, устойчивости и безопасности моделей
- Участвовать в проектах по обучению и совершенствованию систем ИИ
Требования
- Степень бакалавра или выше в области компьютерных наук, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области
- Не менее пяти лет профессионального опыта в сфере безопасности ИИ, красного тестирования ИИ, доверия и безопасности, кибербезопасности, журналистских расследований, наук о жизни или смежной области
- Развитые навыки аналитического мышления, разработки промптов и письменной коммуникации
- Опыт создания состязательных промптов или оценки передовых систем ИИ
- Желателен опыт в красном тестировании ИИ, RLHF, SFT, согласовании ИИ или сфере доверия и безопасности
- Желательно знакомство с тестированием джейлбрейков, разработкой промптов или методами состязательной оценки
- Желательна экспертиза в одной или нескольких пограничных областях, таких как кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность
- Готовность работать в качестве независимого подрядчика
- Кандидаты с визой H-1B и участники программы STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа
- Гибкий график
- Еженедельные выплаты через Stripe или Wise
- Проекты могут быть продлены, сокращены или завершены досрочно в зависимости от потребностей бизнеса и результатов работы
- Состязательное тестирование совместно с ведущими исследователями ИИ и командами безопасности
- Возможность влиять на то, как системы ИИ справляются со сложными реальными задачами безопасности
- Разумные условия адаптации доступны по запросу
- Выплаты за рекомендации до 340 долларов США за каждую успешную рекомендацию с учётом ограничений программы рекомендаций