Специалист по red teaming безопасности ИИ — удалённый контракт в США
Mercor ищет контрактного специалиста по red teaming безопасности ИИ для проверки передовых моделей ИИ и выявления уязвимостей. Роль посвящена областям высокого риска и развитию более безопасных и надёжных систем ИИ.
Описание
- Создавать состязательные промпты для тщательной проверки передовых моделей ИИ
- Выявлять джейлбрейки, небезопасное поведение, галлюцинации и нарушения политик безопасности
- Оценивать устойчивость моделей в сферах дезинформации, кибербезопасности, биобезопасности, мошенничества, политического контента и других чувствительных областях
- Документировать обнаруженные слабые места и участвовать в подготовке эталонов безопасности и отчётов по red teaming
- Работать с исследователями ИИ над повышением согласованности, устойчивости и безопасности моделей
- Помогать защищать и совершенствовать новые передовые системы ИИ
- Формировать подходы к обработке моделями ИИ сложных сценариев безопасности в реальных условиях
Требования
- Степень бакалавра или выше в области информатики, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области
- Не менее пяти лет профессионального опыта в сфере безопасности ИИ, red teaming ИИ, доверия и безопасности, кибербезопасности, журналистских расследований, биологических наук или смежной области
- Сильные аналитические навыки и умение принимать взвешенные решения, разрабатывать промпты и ясно излагать мысли письменно
- Практический опыт создания состязательных промптов или оценки передовых систем ИИ
- Желательно: опыт в red teaming ИИ, RLHF, SFT, согласовании ИИ или сфере доверия и безопасности
- Желательно: знакомство с оценкой джейлбрейков, разработкой промптов или методами состязательной оценки
- Желательно: экспертиза в таких специализированных областях, как кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность
- Готовность работать в качестве независимого подрядчика
- Кандидаты по визам H-1B и STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа
- Самостоятельный выбор рабочего времени и выполнение заданий по гибкому графику
- Еженедельные выплаты через Stripe или Wise
- Продолжительность проекта может измениться или проект может завершиться досрочно в зависимости от потребностей бизнеса и результатов работы
- Конкурентное вознаграждение
- Работа вместе с ведущими исследователями ИИ и командами по безопасности
- По запросу доступны разумные условия для людей с инвалидностью
- Реферальная программа с выплатой до 340 долларов США за каждого успешного кандидата при соблюдении ограничений программы