Faculty розробляє передові рішення у сфері штучного інтелекту та машинного навчання для розв’язання складних операційних завдань в обороні, охороні здоров’я, фінансових послугах, державному секторі та роздрібній торгівлі. Компанія допомагає організаціям застосовувати сучасні технології ШІ в таких сферах, як національна безпека, прогнозування результатів і вдосконалення процесів, приділяючи особливу увагу практичному впливу, відповідальному впровадженню та сталому розвитку.
Старший науковий співробітник із безпеки ШІ — оцінювання у Faculty (гібридний формат, Велика Британія)
Очолюйте дослідження з оцінювання безпеки ШІ у сферах CBRN- і кіберризиків у Faculty. Розробляйте методи, інструменти та доказову базу для відповідального впровадження передових систем ШІ.
Опис
- Розробляти передові методи оцінювання безпеки у критично важливих сферах, зокрема CBRN і кіберризиках.
- Проводити оригінальні дослідження безпеки ШІ — від початкової концепції до публікації.
- Виявляти стратегічні можливості для посилення дослідницького напряму організації з оцінювання безпеки.
- Надавати технічну експертизу для клієнтських проєктів, програм оцінювання та red-teaming передових лабораторій.
- Представляти Faculty в обговореннях із дослідниками, передовими лабораторіями ШІ та представниками державних органів.
- Створювати публікації, технічні звіти, системи оцінювання та дослідницькі інструменти.
- Тісно співпрацювати з командами Faculty з безпеки ШІ та реалізації проєктів.
Вимоги
- Підтверджений досвід самостійного ведення досліджень: від визначення оригінальних питань до публікації результатів.
- Практичний досвід розроблення та впровадження оцінювань або бенчмарків для ШІ.
- Здатність оцінювати конструктивну валідність і враховувати змішувальні фактори.
- Експертиза в red-teaming, змагальному тестуванні, обході обмежень, непрямій ін’єкції промптів і стійкості захисних механізмів моделей.
- Глибокі знання експериментального дизайну, статистичного аналізу, кількісного оцінювання невизначеності та байесівських методів.
- Глибоке розуміння мовних моделей, архітектур генеративного ШІ, підходів до навчання та заходів безпеки.
- Володіння Python.
- Відданість надійним і відтворюваним практикам дослідницької інженерії.
- Досвід моделювання загроз і ризиків буде перевагою.
- Знання або досвід у сфері CBRN чи кібербезпеки будуть перевагою.
- Впливовий дослідницький доробок у галузі ШІ, підтверджений провідними публікаціями або зіставною практичною роботою, буде перевагою.
- Потреба у спонсорстві візи до Великої Британії оцінюється під час подання заявки.
Переваги
- Можливість обговорити роботу на умовах неповної зайнятості.
- Підхід до найму, зосереджений на різноманітті та інклюзивності.
- Доступ до інструментів ШІ для досліджень і підготовки до співбесіди.
- Кожна заявка проходить перевірку людиною.
- Можна відмовитися від використання ШІ-інструмента для нотаток під час співбесіди.