Експерт із безпеки ШІ — англійська та фінська (віддалено)
Mercor шукає фахівців із безпеки ШІ, які володіють англійською та фінською мовами, для red team-тестування розмовних моделей і агентів ШІ. Робота передбачає створення відтворюваних даних про вразливості та сценаріїв атак для проєктів із навчання передових систем ШІ.
Опис
- Проводити змагальне тестування розмовних моделей і агентів ШІ за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв неналежного використання, експлуатації упередженості та багатоетапних маніпуляцій
- Документувати збої, класифікувати вразливості та виявляти системні ризики
- Застосовувати встановлені таксономії, бенчмарки та плейбуки для послідовного проведення оцінювань
- Створювати відтворювані звіти, набори даних і сценарії атак
- Досліджувати результати роботи моделей, пов’язані з упередженістю, дезінформацією та шкідливою поведінкою
- Розширювати охоплення оцінювання, щоб виявляти вразливості, які може пропустити автоматизоване тестування
- Працювати з проєктними командами, що підтримують навчання та вдосконалення передових систем ШІ
Вимоги
- Вільне володіння англійською та фінською мовами або рівень носія
- Попередній досвід red team-тестування у сфері змагального тестування ШІ, кібербезпеки або соціотехнічного зондування
- Підтверджена здатність проводити змагальне тестування систем ШІ
- Уміння працювати з фреймворками, таксономіями, бенчмарками та плейбуками
- Уміння чітко повідомляти про ризики технічній і нетехнічній аудиторіям
- Здатність адаптуватися до різних проєктів і клієнтів
- Необхідно працювати як незалежний підрядник
- Необхідно вміти працювати без конфіденційної або службової інформації, що належить іншому роботодавцю, клієнту чи установі
- Кандидати з H-1B і STEM OPT не підтримуються
Переваги
- Повністю віддалена робота за контрактом
- Гнучкий графік із можливістю самостійно визначати робочі години
- Можливість брати участь у проєктах із підвищеними вимогами до конфіденційності
- Чіткі інструкції та ресурси для підтримки добробуту
- Щотижневі виплати через Stripe або Wise
- Конкурентна оплата
- Реферальна можливість із виплатою до 250 доларів США за кожного успішного кандидата
- Розумні умови адаптації доступні за запитом