Фахівець із безпеки ШІ зі знанням англійської та фінської мов
Перевіряйте передові системи ШІ на вразливості за допомогою джейлбрейків, ін’єкцій промптів і сценаріїв зловживання. Готуйте структуровані висновки та відтворювані приклади атак для оцінювання безпеки ШІ.
Опис
- Тестуйте розмовні моделі та ШІ-агентів за допомогою джейлбрейків, ін’єкцій промптів, сценаріїв зловживання, експлуатації упередженості та маніпуляцій у кількох послідовних діалогах.
- Створюйте дані з людською розміткою: документуйте збої, класифікуйте вразливості та виявляйте системні ризики.
- Використовуйте таксономії, бенчмарки й плани тестування, щоб забезпечувати послідовність перевірок.
- Надавайте замовникам відтворювані звіти, набори даних і приклади атак.
- Оцінюйте відповіді ШІ на чутливі теми, зокрема упередженість, дезінформацію та шкідливу поведінку.
- Виявляйте вразливості, які можуть пропустити автоматизовані перевірки.
- Розширюйте охоплення оцінювання, щоб допомогти запобігти неочікуваним проблемам у продуктивному середовищі.
- Долучайтеся до проєктів із навчання та вдосконалення передових систем ШІ.
Вимоги
- Вільне володіння англійською та фінською мовами або рівень носія.
- Досвід red teaming у сфері ШІ, кібербезпеки або соціотехнічного аналізу.
- Здатність тестувати системи ШІ в умовах протидії та перевіряти їх на межі можливостей.
- Досвід роботи з фреймворками або бенчмарками для структурованого тестування.
- Здатність чітко пояснювати ризики технічній і нетехнічній аудиторіям.
- Здатність адаптуватися до різних проєктів і замовників.
- Перевагою буде спеціалізація на змагальному машинному навчанні, кібербезпеці, соціотехнічних ризиках або творчих методах дослідження.
- Залучення як незалежного підрядника.
- Необхідно мати змогу працювати без спонсорства візи H-1B або STEM OPT.
Переваги
- Повністю віддалена робота.
- Гнучкий графік із можливістю самостійно визначати робочі години.
- Щотижневі виплати через Stripe або Wise.
- Тривалість проєктів може бути збільшена, скорочена або проєкти можуть бути завершені достроково залежно від потреб і результатів роботи.
- Ресурси для підтримки добробуту та чіткі рекомендації для проєктів із темами підвищеної чутливості.
- За запитом доступні розумні пристосування.
- Можливість здобути досвід у red teaming ШІ на основі даних із людською розміткою.
- Робота пліч-о-пліч із провідними дослідниками.
- Реферальні виплати до 250 доларів США за кожну успішну рекомендацію; діють обмеження.