Специалист по проверке безопасности ИИ
Mercor ищет специалиста по проверке безопасности ИИ, который будет испытывать передовые модели с помощью провокационных запросов. Задача — выявлять уязвимости и помогать партнёрским лабораториям улучшать согласованность, устойчивость и безопасность моделей.
Описание
- Создавать провокационные запросы для проверки передовых моделей ИИ.
- Выявлять обходы защитных механизмов, небезопасное поведение, галлюцинации и нарушения политик.
- Оценивать устойчивость моделей в чувствительных областях, включая дезинформацию, кибербезопасность, биобезопасность, мошенничество и политический контент.
- Документировать уязвимости и помогать готовить тесты безопасности и отчёты по результатам проверки моделей.
- Сотрудничать с исследователями ИИ, чтобы укреплять согласованность, устойчивость и безопасность моделей.
- Участвовать в проектах по обучению и совершенствованию систем ИИ.
Требования
- Степень бакалавра или выше в области информатики, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области.
- Не менее пяти лет профессионального опыта в сфере безопасности ИИ, проверки ИИ на уязвимости, доверия и безопасности, кибербезопасности, журналистских расследований, биологических наук или смежной области.
- Развитые аналитические способности, навыки разработки запросов и письменной коммуникации.
- Опыт создания провокационных запросов или оценки передовых систем ИИ.
- Опыт проверки ИИ на уязвимости, RLHF, SFT, согласования ИИ или работы в сфере доверия и безопасности будет преимуществом.
- Знакомство с проверкой устойчивости к обходу защитных механизмов, разработкой запросов или методами состязательной оценки будет преимуществом.
- Экспертные знания в таких узкоспециализированных областях, как кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность, будут преимуществом.
- Готовность работать в качестве независимого подрядчика.
- Кандидаты на визы H-1B и участники программы STEM OPT не поддерживаются.
Преимущества
- Удалённая работа из любой точки США.
- Самостоятельный выбор рабочего графика.
- Еженедельные выплаты через Stripe или Wise.
- Срок проекта может быть продлён, сокращён или завершён досрочно в зависимости от его потребностей и результатов работы.
- Возможность работать с ведущими исследователями ИИ и командами по безопасности.
- Возможность влиять на безопасность передовых систем ИИ.
- По запросу предоставляются разумные условия для людей с инвалидностью.
- Реферальные выплаты — до 340 долларов за каждого успешного кандидата; действуют ограничения.