Эксперт по безопасности ИИ (английский и каннада), удалённая работа
Проводите состязательное тестирование передовых моделей ИИ Mercor с использованием английских и каннадских запросов, выявляя уязвимости. Создавайте воспроизводимые данные по безопасности, примеры атак и отчёты для клиентов в сфере ИИ.
Описание
- Тестировать разговорные модели и агентов ИИ с помощью джейлбрейков, внедрения промптов, сценариев неправомерного использования, эксплуатации предвзятости и многошаговых манипуляций
- Создавать данные, подготовленные людьми, аннотируя сбои, классифицируя уязвимости и выявляя системные риски
- Использовать утверждённые таксономии, бенчмарки и плейбуки для проведения согласованных оценок
- Разрабатывать воспроизводимые отчёты, наборы данных и примеры атак, которыми смогут пользоваться клиенты
- Оценивать ответы ИИ по чувствительным темам, включая предвзятость, дезинформацию и вредоносное поведение
- Выявлять слабые места, которые могут быть незаметны при автоматизированных оценках
- Расширять охват оценок, чтобы предотвращать непредвиденные проблемы в рабочей среде
- Участвовать в проектах по обучению и совершенствованию систем ИИ для лаборатории ИИ Mercor и корпоративных клиентов
Требования
- Свободное или родное владение английским и каннада
- Здравое суждение при оценке языка и контента, включая точность, полноту и уместность ответов ИИ
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Внимательность к тонким ошибкам, несоответствиям и пропускам
- Умение последовательно применять таксономии, бенчмарки, плейбуки, руководства и стандарты качества
- Готовность работать над разными проектами, форматами задач и с разными клиентами
- Необходимо работать в качестве независимого подрядчика
- Кандидаты не должны оформлять статус H-1B или STEM OPT
- Желательно: опыт состязательного машинного обучения с наборами данных для джейлбрейков, атаками через внедрение промптов, атаками RLHF или DPO либо извлечением моделей
- Желательно: опыт в кибербезопасности, включая тестирование на проникновение, разработку эксплойтов или обратную инженерию
- Желательно: опыт работы с социотехническими рисками, например исследованием домогательств или дезинформации, анализом злоупотреблений или тестированием разговорного ИИ
- Желательно: опыт в психологии, актёрском мастерстве или писательстве, способствующий нестандартному состязательному мышлению
Преимущества
- Полностью удалённая работа по контракту с гибким графиком
- Еженедельные выплаты через Stripe или Wise в зависимости от оказанных услуг
- Возможность получить опыт работы с данными, созданными людьми, в области красной команды для передовых систем ИИ и их безопасности
- Значимый вклад в повышение надёжности, безопасности и заслуживающего доверия характера систем ИИ
- Ресурсы для поддержания благополучия и чёткие рекомендации для проектов с контентом повышенной чувствительности
- Разумные условия адаптации доступны по запросу
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата с учётом применимых ограничений