Специалист по поиску уязвимостей в безопасности ИИ — удалённо из США
Mercor ищет удалённого специалиста по поиску уязвимостей в безопасности ИИ для проверки передовых моделей ИИ и выявления уязвимостей в областях повышенного риска. Эта контрактная роль поддерживает лаборатории ИИ, которые разрабатывают и совершенствуют передовые системы.
Описание
- Создавать состязательные промпты для проверки передовых моделей ИИ
- Выявлять джейлбрейки, небезопасное поведение, галлюцинации и нарушения политик
- Оценивать устойчивость моделей к дезинформации, киберугрозам, рискам биобезопасности, мошенничеству, политическому контенту и другим чувствительным темам
- Документировать выявленные уязвимости и помогать создавать тесты безопасности и отчёты по результатам red team-проверок
- Сотрудничать с исследователями ИИ для повышения согласованности, устойчивости и безопасности моделей
- Участвовать в проектах по обучению и совершенствованию систем ИИ
Требования
- Степень бакалавра или выше в области компьютерных наук, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области
- Не менее пяти лет профессионального опыта в области безопасности ИИ, red team-проверок ИИ, доверия и безопасности, кибербезопасности, журналистских расследований, наук о жизни или смежной области
- Развитое аналитическое мышление, навыки разработки промптов и письменной коммуникации
- Опыт создания состязательных промптов или оценки передовых систем ИИ
- Опыт в red team-проверках ИИ, RLHF, SFT, согласовании ИИ или обеспечении доверия и безопасности будет преимуществом
- Знакомство с тестированием джейлбрейков, разработкой промптов или методами состязательной оценки будет преимуществом
- Экспертные знания хотя бы в одной пограничной области, такой как кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность, будут преимуществом
- Способность работать в качестве независимого подрядчика
- Кандидаты с визой H-1B и статусом STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа
- Гибкий самостоятельный график
- Еженедельные выплаты через Stripe или Wise
- Проекты могут быть продлены, сокращены или завершены досрочно в зависимости от потребностей бизнеса и результатов работы
- Конкурентоспособное вознаграждение
- Сотрудничество с ведущими исследователями ИИ и командами по безопасности
- Разумные условия адаптации доступны по запросу
- Реферальные выплаты до 340 долларов США за каждого успешного кандидата при соблюдении применимых ограничений