Эксперт по безопасности ИИ — английский и гуджарати (удалённый контракт)
Тестируйте передовые модели и агентов ИИ на уязвимости безопасности с помощью состязательных диалогов, включая джейлбрейки, внедрение промптов, неправомерное использование, предвзятость и манипуляции. Создавайте размеченные наборы данных, сценарии атак и воспроизводимые отчёты по безопасности на английском и гуджарати.
Описание
- Проводить состязательное тестирование разговорных моделей и агентов ИИ на наличие джейлбрейков, внедрения промптов, неправомерного использования, эксплуатации предвзятости и многошаговых манипуляций
- Создавать данные, подготовленные людьми, размечая сбои, классифицируя уязвимости и выявляя системные риски
- Использовать устоявшиеся таксономии, бенчмарки и руководства для последовательного проведения оценок
- Разрабатывать воспроизводимые отчёты, наборы данных и сценарии атак
- Оценивать ответы ИИ на чувствительные темы, включая предвзятость, дезинформацию и вредоносное поведение
- Выявлять слабые места, которые не обнаруживают автоматизированные методы оценки
- Расширять охват оценок, чтобы помогать ограничивать непредвиденные проблемы в продуктивной среде
- Улучшать клиентские системы ИИ с помощью структурированного состязательного тестирования
Требования
- Свободное владение английским и гуджарати на уровне носителя языка
- Здравое суждение при оценке языка и содержания
- Умение определять, являются ли ответы ИИ точными, полными и уместными, и объяснять свою оценку
- Внимательность к незаметным ошибкам, несоответствиям и пропускам
- Последовательное применение таксономий, бенчмарков, руководств, инструкций и стандартов качества
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Готовность работать над разными проектами, форматами заданий и с разными клиентами
- Желателен опыт в области состязательного машинного обучения, кибербезопасности, социотехнических рисков или творческого исследования ИИ
- Необходимо работать в качестве независимого подрядчика
- Кандидаты с визами H-1B и STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа
- Гибкий график с возможностью самостоятельно выбирать рабочие часы
- Еженедельные выплаты через Stripe или Wise
- Проекты могут быть продлены, сокращены или завершены досрочно в зависимости от потребностей бизнеса и результатов работы
- Возможность по желанию участвовать в проектах, связанных с контентом повышенной чувствительности
- Чёткие инструкции и ресурсы для поддержания благополучия при работе с чувствительным контентом
- Разумные условия труда доступны по запросу
- Возможность получить опыт в области красного тестирования ИИ на основе данных, созданных людьми
- Работа бок о бок с ведущими исследователями
- Реферальные выплаты до 90 долларов США за каждого успешного кандидата с учётом применимых ограничений