Faculty разрабатывает передовые решения в области искусственного интеллекта и машинного обучения для решения сложных операционных задач в сферах обороны, здравоохранения, финансовых услуг, государственных услуг и розничной торговли. Компания помогает организациям применять современные технологии ИИ в таких областях, как национальная безопасность, прогнозирование результатов и совершенствование процессов, уделяя особое внимание практической отдаче, ответственному внедрению и устойчивому развитию.
Старший научный сотрудник по безопасности ИИ — оценки в Faculty (гибридный формат, Великобритания)
Возглавьте исследования по оценке безопасности ИИ в областях CBRN- и киберрисков в Faculty. Разрабатывайте методы, инструменты и доказательную базу для ответственного внедрения передовых систем ИИ.
Описание
- Разрабатывать передовые методы оценки безопасности в критически важных областях, включая CBRN и киберриски.
- Проводить оригинальные исследования безопасности ИИ — от первоначальной идеи до публикации.
- Выявлять стратегические возможности для укрепления исследовательской программы организации в области оценки безопасности.
- Предоставлять техническую экспертизу для клиентских проектов, программ оценки и red-teaming передовых лабораторий.
- Представлять Faculty в обсуждениях с исследователями, передовыми лабораториями ИИ и представителями государственных органов.
- Создавать публикации, технические отчёты, системы оценки и исследовательские инструменты.
- Тесно сотрудничать с командами Faculty по безопасности ИИ и реализации проектов.
Требования
- Подтверждённый опыт самостоятельного ведения исследований: от постановки оригинальных вопросов до публикации результатов.
- Практический опыт разработки и внедрения оценок или бенчмарков для ИИ.
- Способность оценивать валидность конструкта и учитывать смешивающие факторы.
- Экспертиза в red-teaming, атакующем тестировании, обходе ограничений, косвенной инъекции промптов и устойчивости защитных механизмов моделей.
- Глубокие знания экспериментального дизайна, статистического анализа, количественной оценки неопределённости и байесовских методов.
- Глубокое понимание языковых моделей, архитектур генеративного ИИ, подходов к обучению и мер безопасности.
- Владение Python.
- Приверженность надёжным и воспроизводимым практикам исследовательской разработки.
- Опыт моделирования угроз и рисков будет преимуществом.
- Знания или опыт в области CBRN или кибербезопасности будут преимуществом.
- Опыт значимых исследований в области ИИ, подтверждённый ведущими публикациями или сопоставимой практической работой, будет преимуществом.
- Необходимость спонсорства визы в Великобританию оценивается в процессе подачи заявки.
Преимущества
- Возможность обсудить работу на условиях неполной занятости.
- Подход к найму, ориентированный на разнообразие и инклюзивность.
- Доступ к инструментам ИИ для исследований и подготовки к собеседованию.
- Каждая заявка проходит проверку человеком.
- Возможность отказаться от использования ИИ-инструмента для ведения заметок на собеседовании.