Эксперт по безопасности ИИ — английский и ассамский языки (удалённый контракт)
Тестируйте разговорные ИИ-системы на уязвимости, включая обход ограничений, предвзятость и внедрение промптов. Создавайте понятные и воспроизводимые материалы на основе человеческих данных, помогающие сделать передовой ИИ безопаснее и надёжнее.
Описание
- Тестируйте разговорные модели и агентов ИИ на обход ограничений, внедрение промптов, сценарии неправомерного использования, эксплуатацию предвзятости и многоходовые манипуляции
- Создавайте аннотации на основе человеческих данных, документируя сбои, классифицируя уязвимости и выявляя системные риски
- Используйте утверждённые таксономии, бенчмарки и руководства для проведения последовательных оценок
- Предоставляйте клиентам воспроизводимые отчёты, наборы данных и сценарии атак
- Выявляйте слабые места, которые могут оставаться незамеченными при автоматизированном тестировании
- Расширяйте охват оценок, чтобы минимизировать неожиданные проблемы в рабочей среде
- Оценивайте ответы ИИ на чувствительные темы в соответствии с предоставленными руководствами
Требования
- Свободное владение английским и ассамским языками на уровне носителя
- Здравое суждение при оценке языка и содержания, включая точность, полноту и уместность ответов ИИ
- Высокая внимательность к тонким ошибкам, несоответствиям и пропускам
- Последовательное соблюдение руководств и стандартов качества
- Умение ясно объяснять ход рассуждений технической и нетехнической аудитории
- Готовность работать над разными проектами, форматами заданий и с разными клиентами
- Статус независимого подрядчика
- Готовность работать с чувствительными темами, такими как предвзятость, дезинформация и вредоносное поведение; участие в проектах с повышенной чувствительностью необязательно
- Кандидаты на визы H-1B и STEM OPT не поддерживаются
Преимущества
- Полностью удалённая работа с гибким графиком, который вы устанавливаете самостоятельно
- Еженедельные выплаты через Stripe или Wise
- Возможность получить опыт в проведении red team-тестирования ИИ на основе человеческих данных
- Практический вклад в создание более устойчивых, безопасных и заслуживающих доверия ИИ-систем
- Возможности сотрудничества с ведущими исследователями
- Разумные условия и адаптации доступны по запросу
- Реферальное вознаграждение до 90 долларов США за каждого успешно привлечённого кандидата