Фахівець із red teaming безпеки ШІ — віддалений контракт у США
Mercor шукає контрактного фахівця із red teaming безпеки ШІ для перевірки передових моделей ШІ та виявлення вразливостей. Роль зосереджена на сферах високого ризику й підтримує розроблення безпечніших і надійніших систем ШІ.
Опис
- Створювати змагальні промпти для ретельної перевірки передових моделей ШІ
- Виявляти джейлбрейки, небезпечну поведінку, галюцинації та недотримання політик безпеки
- Оцінювати стійкість моделей у сферах дезінформації, кібербезпеки, біобезпеки, шахрайства, політичного контенту та інших чутливих галузях
- Документувати виявлені слабкі місця й підтримувати підготовку еталонів безпеки та звітів із red teaming
- Працювати з дослідниками ШІ над підвищенням узгодженості, стійкості та безпеки моделей
- Допомагати захищати й удосконалювати нові передові системи ШІ
- Впливати на те, як моделі ШІ обробляють складні сценарії безпеки в реальних умовах
Вимоги
- Ступінь бакалавра або вище в галузі комп’ютерних наук, кібербезпеки, журналістики, комунікацій, психології, біології, хімії, державної політики або суміжній галузі
- Щонайменше п’ять років професійного досвіду у сфері безпеки ШІ, red teaming ШІ, довіри та безпеки, кібербезпеки, журналістських розслідувань, наук про життя або суміжній галузі
- Сильне аналітичне мислення, уміння розробляти промпти та навички письмової комунікації
- Практичний досвід створення змагальних промптів або оцінювання передових систем ШІ
- Бажано: досвід у red teaming ШІ, RLHF, SFT, узгодженні ШІ або сфері довіри та безпеки
- Бажано: обізнаність в оцінюванні джейлбрейків, інженерії промптів або методах змагального оцінювання
- Бажано: експертність у таких спеціалізованих сферах, як кібербезпека, біобезпека, політичний контент, дезінформація або наукова безпека
- Готовність працювати як незалежний підрядник
- Кандидати з H-1B і STEM OPT не підтримуються
Переваги
- Повністю віддалена робота
- Самостійно обирайте робочі години та виконуйте завдання за гнучким графіком
- Щотижневі виплати через Stripe або Wise
- Тривалість проєкту може змінитися або проєкт може завершитися раніше залежно від потреб бізнесу та результатів роботи
- Конкурентна винагорода
- Робота разом із провідними дослідниками ШІ та командами з безпеки
- За запитом доступні розумні умови для людей з інвалідністю
- Реферальна програма передбачає до 340 доларів США за кожну успішну рекомендацію з урахуванням обмежень програми