Специалист по проверке безопасности ИИ-моделей методом red teaming
Проверяйте передовые модели ИИ Mercor на уязвимости с помощью состязательного тестирования. Выявляйте уязвимости и помогайте улучшать согласованность моделей.
Описание
- Создавайте состязательные запросы для проверки передовых моделей ИИ.
- Выявляйте обходы защитных механизмов, небезопасное поведение, галлюцинации и нарушения политик.
- Проверяйте устойчивость моделей к дезинформации, угрозам кибербезопасности и биобезопасности, мошенничеству, политическому контенту и другим чувствительным темам.
- Фиксируйте уязвимости и помогайте создавать тесты безопасности и отчёты по red teaming.
- Сотрудничайте с исследователями ИИ, чтобы укреплять согласованность, устойчивость и безопасность моделей.
- Помогайте защищать и совершенствовать новое поколение передовых моделей ИИ.
- Участвуйте в проектах по обучению и улучшению систем ИИ.
Требования
- Степень бакалавра или выше в области информатики, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области
- Не менее пяти лет профессионального опыта в сфере безопасности ИИ, red teaming ИИ, доверия и безопасности, кибербезопасности, журналистских расследований, наук о жизни или смежной области
- Развитые аналитические способности, навыки разработки запросов и письма
- Опыт создания состязательных запросов или оценки передовых систем ИИ
- Опыт в red teaming ИИ, RLHF, дообучении с учителем, согласовании ИИ либо в сфере доверия и безопасности будет преимуществом
- Знакомство с тестированием обхода защитных механизмов, разработкой запросов или методами состязательной оценки будет преимуществом
- Экспертные знания хотя бы в одной чувствительной области, например кибербезопасности, биобезопасности, политическом контенте, дезинформации или научной безопасности, будут преимуществом
- Кандидатам, которым требуется спонсорство визы H-1B или STEM OPT, подавать заявку нельзя; Mercor не может поддержать ни один из этих видов спонсорства
Преимущества
- Полностью удалённая работа с гибким графиком
- Еженедельные выплаты за оказанные услуги через Stripe или Wise
- Продолжительность проекта может меняться, а проект может завершиться досрочно в зависимости от потребностей проекта и результатов работы
- Работа в сотрудничестве с ведущими исследователями ИИ и командами по безопасности
- Возможность влиять на то, как системы ИИ справляются со сложными реальными задачами безопасности
- По запросу доступны разумные условия для людей с инвалидностью
- Выплаты за рекомендации — до 340 долларов за каждого успешно привлечённого кандидата, с учётом ограничений