Фахівець із перевірки безпеки ШІ
Mercor шукає фахівця із перевірки безпеки ШІ, який виявлятиме слабкі місця передових моделей у сферах високого ризику. Ця робота допомагає лабораторіям ШІ навчати й удосконалювати передові системи.
Опис
- Створювати змагальні запити для перевірки передових моделей ШІ.
- Виявляти обходи захисних обмежень, небезпечну поведінку, галюцинації та порушення політик.
- Оцінювати стійкість моделей до дезінформації, загроз кібербезпеці й біобезпеці, шахрайства, політичного контенту та інших чутливих тем.
- Документувати вразливості й допомагати створювати тести безпеки та звіти за результатами red teaming.
- Співпрацювати з дослідниками ШІ, щоб посилювати узгодженість моделей із заданими цілями, їхню стійкість і безпеку.
- Долучатися до проєктів із навчання та вдосконалення систем ШІ.
Вимоги
- Ступінь бакалавра або вищий у галузі комп’ютерних наук, кібербезпеки, журналістики, комунікацій, психології, біології, хімії, державної політики чи суміжній галузі.
- Щонайменше п’ять років професійного досвіду у сфері безпеки ШІ, red teaming ШІ, довіри й безпеки, кібербезпеки, журналістських розслідувань, наук про життя чи суміжній галузі.
- Розвинені навички аналітичного мислення, проєктування запитів і письмової комунікації.
- Досвід створення змагальних запитів або оцінювання передових систем ШІ.
- Потрібно проживати в одній із зазначених країн, де дозволена робота: Албанія, Австрія, Бельгія, Болгарія, Боснія і Герцеговина, Швейцарія, Чехія, Німеччина, Данія, Іспанія, Естонія, Фінляндія, Франція, Велика Британія, Греція, Хорватія, Угорщина, Ірландія, Ісландія, Італія, Ліхтенштейн, Литва, Люксембург, Латвія, Монако, Молдова, Північна Македонія, Мальта, Нідерланди, Норвегія, Польща, Португалія, Румунія, Сан-Марино, Сербія, Словаччина, Словенія, Швеція, США або Косово.
- Наразі компанія не може підтримувати кандидатів із візою H-1B або статусом STEM OPT.
Переваги
- Повністю віддалена робота з гнучким графіком.
- Щотижневі виплати за виконану роботу через Stripe або Wise.
- Тривалість проєкту може бути збільшена, скорочена або проєкт може бути завершений достроково залежно від потреб і результатів роботи.
- Конкурентна оплата.
- Можливість працювати з провідними дослідниками ШІ та командами з безпеки.
- За запитом доступні розумні пристосування умов праці.
- Реферальна програма: до 340 доларів США за кожного успішно залученого кандидата, з урахуванням обмежень.