Специалист по красному тестированию безопасности ИИ
Mercor ищет специалиста по красному тестированию безопасности ИИ для проверки передовых систем ИИ с помощью adversarial-тестирования в проектах по обучению ИИ. Роль предполагает создание сложных запросов и фиксацию уязвимостей в областях высокого риска.
Описание
- Создавать adversarial-запросы, проверяющие передовые модели ИИ
- Выявлять джейлбрейки, небезопасное поведение, галлюцинации и нарушения политик
- Оценивать устойчивость моделей к дезинформации, кибербезопасности, биобезопасности, мошенничеству, политическому контенту и другим чувствительным темам
- Документировать обнаруженные уязвимости и содействовать разработке бенчмарков безопасности и отчетов по red teaming
- Сотрудничать с исследователями ИИ для повышения согласованности, устойчивости и безопасности моделей
- Участвовать в проектах по обучению и улучшению систем ИИ
Требования
- Степень бакалавра или выше в области компьютерных наук, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, государственной политики или смежной области
- Не менее пяти лет профессионального опыта в области безопасности ИИ, red teaming ИИ, доверия и безопасности, кибербезопасности, журналистских расследований, наук о жизни или смежной области
- Сильные аналитические способности, навыки prompt engineering и письменной коммуникации
- Опыт создания adversarial-запросов или оценки передовых систем ИИ
- Проживание в одном из указанных подходящих местоположений
- Кандидаты с визами H-1B и STEM OPT не поддерживаются
Преимущества
- Полностью удаленная работа
- Гибкий график с возможностью выполнять работу в удобное для вас время
- Еженедельные выплаты через Stripe или Wise
- Сотрудничество с ведущими исследователями ИИ и командами по безопасности
- Возможность влиять на безопасность и согласованность передовых систем ИИ
- Продолжительность проекта может измениться или проект может завершиться досрочно в зависимости от потребностей бизнеса и результатов работы
- Реферальные выплаты до 340 долларов США за каждого успешного кандидата с учетом ограничений реферальной программы