Фахівець із пошуку вразливостей у безпеці ШІ — віддалена робота зі США
Mercor шукає віддаленого фахівця із пошуку вразливостей у безпеці ШІ для перевірки передових моделей ШІ та виявлення вразливостей у сферах підвищеного ризику. Ця контрактна роль підтримує лабораторії ШІ, які розробляють і вдосконалюють передові системи.
Опис
- Створювати змагальні промпти для перевірки передових моделей ШІ
- Виявляти джейлбрейки, небезпечну поведінку, галюцинації та порушення політик
- Оцінювати стійкість моделей до дезінформації, кіберзагроз, ризиків біобезпеки, шахрайства, політичного контенту та інших чутливих тем
- Документувати виявлені вразливості й допомагати створювати тести безпеки та звіти за результатами red team-перевірок
- Співпрацювати з дослідниками ШІ для посилення узгодженості, стійкості та безпеки моделей
- Долучатися до проєктів із навчання та вдосконалення систем ШІ
Вимоги
- Ступінь бакалавра або вище в галузі комп’ютерних наук, кібербезпеки, журналістики, комунікацій, психології, біології, хімії, державної політики або суміжній галузі
- Щонайменше п’ять років професійного досвіду в галузі безпеки ШІ, red team-перевірок ШІ, довіри та безпеки, кібербезпеки, журналістських розслідувань, наук про життя або суміжній галузі
- Розвинене аналітичне мислення, навички розроблення промптів і письмової комунікації
- Досвід створення змагальних промптів або оцінювання передових систем ШІ
- Досвід у red team-перевірках ШІ, RLHF, SFT, узгодженні ШІ або забезпеченні довіри та безпеки буде перевагою
- Знання тестування джейлбрейків, розроблення промптів або методів змагального оцінювання буде перевагою
- Експертні знання щонайменше в одній сірій зоні, як-от кібербезпека, біобезпека, політичний контент, дезінформація або наукова безпека, буде перевагою
- Здатність працювати як незалежний підрядник
- Кандидати з візою H-1B і статусом STEM OPT не підтримуються
Переваги
- Повністю віддалена робота
- Гнучкий самостійно організований графік
- Щотижневі виплати через Stripe або Wise
- Проєкти можуть бути продовжені, скорочені або завершені достроково залежно від потреб бізнесу та результатів роботи
- Конкурентна винагорода
- Співпраця з провідними дослідниками ШІ та командами з безпеки
- Розумні умови адаптації доступні за запитом
- Реферальні виплати до 340 доларів США за кожного успішного кандидата з урахуванням застосовних обмежень