Специалист по проверке безопасности ИИ
Mercor ищет специалиста по проверке безопасности ИИ, который будет выявлять слабые места передовых моделей в областях высокого риска. Эта работа помогает лабораториям ИИ обучать и совершенствовать передовые системы.
Описание
- Создавать состязательные запросы для проверки передовых моделей ИИ.
- Выявлять обходы защитных ограничений, небезопасное поведение, галлюцинации и нарушения политик.
- Оценивать устойчивость моделей к дезинформации, угрозам кибербезопасности и биобезопасности, мошенничеству, политическому контенту и другим чувствительным темам.
- Документировать уязвимости и помогать создавать тесты безопасности и отчёты по результатам red teaming.
- Работать с исследователями ИИ над улучшением согласованности моделей с заданными целями, их устойчивости и безопасности.
- Участвовать в проектах по обучению и совершенствованию систем ИИ.
Требования
- Степень бакалавра или выше в области компьютерных наук, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области.
- Не менее пяти лет профессионального опыта в сфере безопасности ИИ, red teaming ИИ, доверия и безопасности, кибербезопасности, журналистских расследований, наук о жизни или смежной области.
- Развитые навыки аналитического мышления, проектирования запросов и письменной коммуникации.
- Опыт создания состязательных запросов или оценки передовых систем ИИ.
- Необходимо проживать в одной из перечисленных стран, где разрешена работа: Албания, Австрия, Бельгия, Болгария, Босния и Герцеговина, Швейцария, Чехия, Германия, Дания, Испания, Эстония, Финляндия, Франция, Великобритания, Греция, Хорватия, Венгрия, Ирландия, Исландия, Италия, Лихтенштейн, Литва, Люксембург, Латвия, Монако, Молдова, Северная Македония, Мальта, Нидерланды, Норвегия, Польша, Португалия, Румыния, Сан-Марино, Сербия, Словакия, Словения, Швеция, США или Косово.
- В настоящее время компания не может поддерживать кандидатов с визой H-1B или статусом STEM OPT.
Преимущества
- Полностью удалённая работа с гибким графиком.
- Еженедельные выплаты за выполненную работу через Stripe или Wise.
- Продолжительность проекта может быть увеличена, сокращена или проект может быть завершён досрочно в зависимости от потребностей и результатов работы.
- Конкурентная оплата.
- Возможность работать с ведущими исследователями ИИ и командами по безопасности.
- Разумные условия труда с учётом потребностей доступны по запросу.
- Реферальная программа: до 340 долларов США за каждого успешно привлечённого кандидата, с учётом ограничений.