Эксперт по красному тестированию безопасности ИИ (английский и телугу) — удалённый контракт
Тестируйте разговорные модели ИИ на уязвимости к джейлбрейкам, внедрению промптов, злоупотреблениям, предвзятости и другим сбоям безопасности. Документируйте воспроизводимые уязвимости и данные оценивания для клиентов, занимающихся исследованиями ИИ.
Описание
- Проводить состязательное тестирование разговорных моделей и агентов ИИ на уязвимость к джейлбрейкам, внедрению промптов, злоупотреблениям, эксплуатации предвзятости и многоходовым манипуляциям
- Аннотировать результаты тестов, классифицировать уязвимости и выявлять системные риски
- Применять установленные таксономии, бенчмарки и сценарии для обеспечения единообразия оцениваний
- Создавать воспроизводимые отчёты, наборы данных и сценарии атак для клиентов
- Оценивать ответы ИИ на чувствительные темы, включая предвзятость, дезинформацию и вредоносное поведение
- Выявлять слабые места, которые не обнаруживают автоматизированные методы оценки
- Расширять охват оценивания, чтобы помогать предотвращать непредвиденные проблемы в рабочей среде
- Повышать качество систем ИИ клиентов с помощью повторяемого состязательного тестирования
Требования
- Свободное владение английским и телугу на уровне носителя
- Здравое суждение при оценке языка и контента с точки зрения точности, полноты и уместности
- Умение чётко объяснять ход рассуждений технической и нетехнической аудитории
- Внимательное отношение к тонким ошибкам, несоответствиям и пропускам
- Способность последовательно соблюдать инструкции и стандарты качества
- Гибкость при работе над разными проектами, форматами задач и с разными клиентами
- Работа в качестве независимого подрядчика
- Способность работать без использования конфиденциальной или закрытой информации любого работодателя, клиента или учреждения
- Кандидаты с визой H-1B и участники STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа с самостоятельным выбором рабочего графика
- Еженедельные выплаты через Stripe или Wise за оказанные услуги
- Возможность по желанию участвовать в проектах, связанных с более чувствительными темами
- Инструкции и ресурсы для поддержания благополучия при работе с чувствительным контентом
- Опыт развития навыков красного тестирования ИИ на основе данных, собранных людьми
- Возможность помогать делать системы ИИ безопаснее, надёжнее и заслуживающими большего доверия
- Возможности сотрудничества с ведущими исследователями
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата при соблюдении применимых ограничений