Експерт із червоного тестування безпеки ШІ — англійська та фінська, віддалена робота у США
Проводьте змагальне тестування розмовних моделей і агентів ШІ для проєктів Mercor зі створення людських даних для ШІ. Створюйте відтворювані дані про вразливості, допомагаючи посилювати передові системи ШІ.
Опис
- Тестувати розмовні моделі й агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв неналежного використання, експлуатації упередженості та багатоходових маніпуляцій
- Анотувати збої, класифікувати вразливості й виявляти системні ризики
- Застосовувати усталені таксономії, бенчмарки та посібники для послідовного оцінювання
- Створювати відтворювані звіти, набори даних і приклади атак для клієнтів
- Виявляти вразливості, які може пропустити автоматизоване тестування
- Розширювати охоплення оцінювання та допомагати зменшувати кількість неочікуваних проблем у робочому середовищі
- Працювати з провідними дослідниками над проєктами, що навчають і вдосконалюють системи ШІ
Вимоги
- Вільне або рідне володіння англійською та фінською мовами
- Попередній досвід red teaming у сфері атак на ШІ, кібербезпеки або соціотехнічного тестування
- Здатність проводити змагальне тестування систем ШІ та підштовхувати їх до точок відмови
- Досвід застосування фреймворків або бенчмарків для структурованого тестування
- Здатність чітко пояснювати ризики технічній і нетехнічній аудиторії
- Адаптивність під час роботи над різними проєктами та з вимогами клієнтів
- Готовність працювати як незалежний підрядник
- Кандидат не повинен мати статус кандидата на H-1B або STEM OPT
- Бажано: досвід у змагальному машинному навчанні, зокрема робота з наборами даних для джейлбрейків, ін’єкціями промптів, атаками RLHF/DPO або вилученням моделей
- Бажано: досвід у кібербезпеці, зокрема тестуванні на проникнення, розробленні експлойтів або зворотному проєктуванні
- Бажано: досвід оцінювання соціотехнічних ризиків, зокрема тестування на домагання чи дезінформацію, аналізу зловживань або тестування розмовного ШІ
- Бажано: досвід у психології, акторській майстерності або написанні текстів, що підтримує нестандартне змагальне мислення
Переваги
- Повністю віддалена робота
- Гнучкий графік
- Щотижневі виплати через Stripe або Wise
- Ресурси для підтримки добробуту та чіткі правила для проєктів із підвищеною чутливістю
- Можливість отримати досвід у red teaming ШІ на основі людських даних
- Безпосередня можливість допомагати робити системи ШІ надійнішими, безпечнішими та такими, що заслуговують на довіру
- Конкурентна оплата
- Реферальний бонус до 250 доларів США за кожного успішного реферала