Фахівець із тестування безпеки моделей ШІ методом red teaming
Перевіряйте передові моделі ШІ Mercor на вразливості за допомогою змагального тестування. Виявляйте вразливості й допомагайте покращувати узгодженість моделей.
Опис
- Створюйте змагальні запити для перевірки передових моделей ШІ.
- Виявляйте обходи захисту, небезпечну поведінку, галюцинації та порушення політик.
- Перевіряйте стійкість моделей до дезінформації, загроз кібербезпеці й біобезпеці, шахрайства, політичного контенту та інших чутливих тем.
- Фіксуйте вразливості й допомагайте створювати тести безпеки та звіти з red teaming.
- Співпрацюйте з дослідниками ШІ, щоб посилювати узгодженість, стійкість і безпеку моделей.
- Допомагайте захищати й удосконалювати нове покоління передових моделей ШІ.
- Долучайтеся до проєктів із навчання та вдосконалення систем ШІ.
Вимоги
- Ступінь бакалавра або вище в галузі інформатики, кібербезпеки, журналістики, комунікацій, психології, біології, хімії, державної політики або суміжній галузі
- Щонайменше п’ять років професійного досвіду у сфері безпеки ШІ, red teaming ШІ, довіри та безпеки, кібербезпеки, журналістських розслідувань, наук про життя або суміжній галузі
- Розвинені аналітичні здібності, навички розробки запитів і письма
- Досвід створення змагальних запитів або оцінювання передових систем ШІ
- Досвід у red teaming ШІ, RLHF, донавчанні з учителем, узгодженні ШІ або сфері довіри та безпеки буде перевагою
- Знання методів тестування обходу захисту, розробки запитів або змагального оцінювання буде перевагою
- Експертні знання принаймні в одній чутливій галузі, як-от кібербезпека, біобезпека, політичний контент, дезінформація або наукова безпека, будуть перевагою
- Кандидатам, яким потрібне спонсорство візи H-1B або STEM OPT, подаватися не слід; Mercor не може підтримати жоден із цих видів спонсорства
Переваги
- Повністю віддалена робота з гнучким графіком
- Щотижневі виплати за надані послуги через Stripe або Wise
- Тривалість проєкту може змінюватися, а проєкт може завершитися раніше залежно від потреб проєкту та результатів роботи
- Співпраця з провідними дослідниками ШІ та командами з безпеки
- Можливість впливати на те, як системи ШІ долають складні реальні виклики безпеки
- За запитом доступні розумні умови для людей з інвалідністю
- Виплати за рекомендації — до 340 доларів за кожного успішно залученого кандидата, з урахуванням обмежень