Эксперт по безопасности ИИ со знанием английского и финского языков
Проверяйте передовые системы ИИ на уязвимости с помощью джейлбрейков, инъекций промптов и сценариев злоупотребления. Готовьте структурированные выводы и воспроизводимые примеры атак для оценки безопасности ИИ.
Описание
- Проверяйте разговорные модели и ИИ-агентов с помощью джейлбрейков, инъекций промптов, сценариев злоупотребления, эксплуатации предвзятости и манипуляций в ходе нескольких диалогов.
- Создавайте размеченные людьми данные: документируйте сбои, классифицируйте уязвимости и выявляйте системные риски.
- Используйте таксономии, бенчмарки и планы тестирования, чтобы проводить проверки единообразно.
- Предоставляйте заказчикам воспроизводимые отчёты, наборы данных и примеры атак.
- Оценивайте ответы ИИ на чувствительные темы, включая предвзятость, дезинформацию и вредоносное поведение.
- Выявляйте уязвимости, которые могут ускользнуть от автоматизированного тестирования.
- Расширяйте охват оценок, чтобы помочь предотвратить неожиданные проблемы при запуске в производство.
- Участвуйте в проектах по обучению и совершенствованию передовых систем ИИ.
Требования
- Свободное владение английским и финским языками или знание на уровне носителя.
- Опыт проведения red team-проверок в сфере ИИ, кибербезопасности или социотехнического анализа.
- Умение проводить состязательное тестирование ИИ-систем и проверять их на пределе возможностей.
- Опыт работы с платформами или бенчмарками для структурированного тестирования.
- Умение ясно объяснять риски технической и нетехнической аудитории.
- Умение адаптироваться к разным проектам и заказчикам.
- Будет преимуществом специализация на состязательном машинном обучении, кибербезопасности, социотехнических рисках или творческих методах исследования.
- Работа в качестве независимого подрядчика.
- Необходимо иметь возможность работать без спонсорства визы H-1B или STEM OPT.
Преимущества
- Полностью удалённая работа.
- Гибкий график с возможностью самостоятельно выбирать рабочее время.
- Еженедельные выплаты через Stripe или Wise.
- Срок проектов может быть продлён, сокращён или завершён досрочно в зависимости от потребностей и результатов работы.
- Ресурсы для поддержания благополучия и чёткие рекомендации для проектов с темами повышенной чувствительности.
- По запросу доступны разумные условия для адаптации рабочего процесса.
- Возможность получить опыт проведения red team-проверок ИИ с использованием данных, размеченных людьми.
- Работа в команде с ведущими исследователями.
- Реферальные выплаты до 250 долларов США за каждого успешного кандидата; действуют ограничения.