Фахівець із червоного тестування безпеки ШІ — віддалений контракт (США)
Mercor шукає фахівця із червоного тестування безпеки ШІ для виявлення вразливостей передових моделей ШІ за допомогою змагального тестування. Робота передбачає розроблення промптів і оцінювання високоризикової поведінки моделей разом із дослідниками безпеки ШІ.
Опис
- Створювати змагальні промпти для перевірки передових моделей ШІ
- Виявляти джейлбрейки, небезпечну поведінку, галюцинації та порушення політик
- Оцінювати стійкість моделей у таких сферах, як дезінформація, кібербезпека, біобезпека, шахрайство, політичний контент та інші чутливі теми
- Документувати вразливості та підтримувати розроблення бенчмарків безпеки й звітів із червоного тестування
- Співпрацювати з дослідниками ШІ для посилення узгодженості, стійкості та безпеки моделей
- Брати участь у проєктах із навчання та вдосконалення систем ШІ
Вимоги
- Ступінь бакалавра або вище в галузі комп’ютерних наук, кібербезпеки, журналістики, комунікацій, психології, біології, хімії, державної політики або суміжній галузі
- Щонайменше п’ять років професійного досвіду у сфері безпеки ШІ, червоного тестування ШІ, довіри та безпеки, кібербезпеки, журналістських розслідувань, наук про життя або суміжній сфері
- Сильні навички аналітичного мислення, розроблення промптів і письмової комунікації
- Досвід створення змагальних промптів або оцінювання передових систем ШІ
- Бажаний досвід у червоному тестуванні ШІ, RLHF, SFT, узгодженні ШІ або сфері довіри та безпеки
- Бажане розуміння тестування джейлбрейків, розроблення промптів або методів змагального оцінювання
- Бажана експертиза в одній чи кількох сірих зонах, як-от кібербезпека, біобезпека, політичний контент, дезінформація або наукова безпека
- Здатність працювати як незалежний підрядник
- Кандидати з візою H-1B та учасники програми STEM OPT не підтримуються
Переваги
- Повністю віддалена робота
- Гнучкий графік
- Щотижневі виплати через Stripe або Wise
- Проєкти можуть бути продовжені, скорочені або завершені достроково залежно від потреб бізнесу та результатів роботи
- Змагальне тестування разом із провідними дослідниками ШІ та командами безпеки
- Можливість впливати на те, як системи ШІ працюють зі складними реальними викликами безпеки
- Розумні умови адаптації доступні за запитом
- Виплати за рекомендації до 340 доларів США за кожну успішну рекомендацію з урахуванням обмежень програми рекомендацій