Експерт із безпеки ШІ, англійська та нідерландська мови (віддалений контракт)
Mercor шукає експертів із безпеки ШІ, які володіють англійською та нідерландською мовами, для red team-тестування розмовних моделей і агентів. Робота передбачає створення даних про вразливості, сценаріїв атак і відтворюваних звітів із безпеки для розробки передових систем ШІ.
Опис
- Тестувати розмовні моделі й агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв неправомірного використання, експлуатації упередженості та багатоходових маніпуляцій
- Створювати дані, підготовлені людьми, анотуючи збої, класифікуючи вразливості та виявляючи системні ризики
- Використовувати таксономії, бенчмарки й посібники для послідовного тестування безпеки
- Розробляти відтворювані звіти, набори даних і сценарії атак для клієнтів
- Виявляти вразливості, які може пропустити автоматизоване тестування
- Розширювати охоплення оцінювання, щоб допомагати зменшувати непередбачені виробничі ризики
- Працювати з провідними дослідниками над навчанням і вдосконаленням передових систем ШІ
Вимоги
- Вільне володіння англійською та нідерландською мовами на рівні носія
- Попередній досвід red team-тестування ШІ, наступальної роботи у сфері кібербезпеки або соціотехнічного дослідження
- Здатність проводити змагальне тестування систем ШІ та доводити їх до умов відмови
- Досвід застосування фреймворків або бенчмарків для структурованого тестування
- Здатність чітко пояснювати ризики технічній і нетехнічній аудиторіям
- Здатність адаптуватися до різних проєктів і клієнтів
- Досвід у змагальному машинному навчанні, зокрема з наборами даних для джейлбрейків, ін’єкціями промптів, атаками RLHF/DPO або вилученням моделей, буде перевагою
- Досвід у кібербезпеці, зокрема тестуванні на проникнення, розробці експлойтів або зворотній інженерії, буде перевагою
- Досвід роботи із соціотехнічними ризиками, зокрема дослідженням домагань або дезінформації, аналізом зловживань чи тестуванням розмовного ШІ, буде перевагою
- Досвід творчого дослідження у психології, акторській майстерності або письменництві буде перевагою
- Необхідно мати можливість працювати як незалежний підрядник
- Кандидати з H-1B і STEM OPT не підтримуються
Переваги
- Повністю віддалена робота
- Гнучкий графік із можливістю самостійно встановлювати робочі години
- Щотижневі виплати через Stripe або Wise залежно від наданих послуг
- Проєкти можуть бути продовжені, скорочені або завершені достроково залежно від потреб бізнесу та результатів роботи
- Участь у проєктах із підвищеною чутливістю є необов’язковою
- Надаються рекомендації щодо роботи з контентом і ресурси для підтримання добробуту
- Розумні умови доступності надаються за запитом
- Конкурентна погодинна оплата
- Можливість отримати до 250 доларів США за кожного успішного кандидата за рекомендацією, з урахуванням обмежень