FAR.AI
FAR.AI
FAR.AI — исследовательская и образовательная некоммерческая организация, стремящаяся сделать передовой искусственный интеллект безопасным и полезным для всех. Команда изучает ключевые проблемы надежного ИИ, включая устойчивость, обман, интерпретируемость и оценку передовых систем. Благодаря техническим исследованиям, обучению, мероприятиям, семинарам, грантовым программам и таким инициативам, как FAR.Labs, FAR.AI поддерживает исследователей и укрепляет потенциал отрасли для создания безопасного ИИ, согласованного с интересами человека. Организация также публикует результаты исследований, объединяет лидеров академической и промышленной сфер и сотрудничает с университетами и государственными учреждениями в области безопасности ИИ и политики.

Руководитель инженерного направления по AI Red Team

Руководите инженерной функцией FAR.AI в рамках глобальной программы тестирования передовых ИИ-систем на устойчивость к атакам. Создавайте команды, агентные инструменты и системы оценки, способствующие развитию безопасности ИИ.

Описание

  • Развивать инженерную организацию FAR.AI по направлению Red Team, а также её системы, продукты, сервисы, оценки и агентов
  • Создавать агентные системы тестирования на устойчивость к атакам, которые систематически исследуют поверхности атак
  • Выявлять недавно раскрытые публичные джейлбрейки и автоматически интегрировать их в платформы тестирования
  • Совершенствовать методы моделирования атакующих и оценки вредоносных ответов
  • Разрабатывать базы данных уязвимостей, возможности статистического анализа и инфраструктуру отчётности
  • Поставлять системы для ответственных проектов по тестированию передовых ИИ-систем совместно с компаниями и государственными органами
  • Помогать готовить публичные отчёты, бенчмарки и рейтинги
  • Участвовать в тестировании как закрытых, так и открытых по весам передовых моделей
  • Разрабатывать агентные рабочие процессы, повышающие эффективность Red Team
  • Руководить участниками инженерных и Red Team-команд, наставлять их и оказывать им поддержку
  • Планировать работу спринтов и направлять инженерную реализацию
  • Создавать масштабируемые процессы для быстро меняющихся проектов
  • Разрабатывать процессы найма и привлекать инженерных менеджеров и других участников команды
  • Выявлять инженерные ограничения и внедрять эффективные меры по их устранению
  • Работать с техническим руководством над инженерными системами, методами, оценками и исследованиями
  • Участвовать в формировании технической и продуктовой стратегии Red Team
  • Превращать технические концепции и результаты исследований в практический эффект в реальном мире

Требования

  • Значительный опыт в разработке программного обеспечения, ИИ или компьютерной инженерии, включая такие области, как кибербезопасность или MLOps
  • Подтверждённый опыт создания, развития и руководства техническими командами, включая стартапы с нуля и команды менеджеров
  • Практический опыт работы с агентами для программирования, Python, API LLM, локальными фреймворками LLM, фреймворками оценки, агентами LLM, облачной инфраструктурой и вычислительными кластерами
  • Умение эффективно работать в быстро меняющейся среде
  • Явная приверженность развитию миссии и влияния передовых ИИ-систем
  • Сильные коммуникативные навыки для объяснения технических решений как технической, так и нетехнической аудитории
  • Настойчивость в достижении амбициозных целей
  • Опыт создания или тестирования передовых LLM или агентных систем будет преимуществом
  • Опыт создания технических команд и продуктов в предпринимательской среде будет преимуществом
  • Способность выявлять незаметные уязвимости высокой степени серьёзности в сложных системах будет преимуществом
  • Опыт работы в области состязательного машинного обучения или безопасности будет преимуществом
  • Опыт работы в ИИ-лабораториях, командах безопасности или государственных институтах безопасности будет преимуществом
  • Опубликованные исследования или другие работы в области безопасности, защищённости или устойчивости ИИ будут преимуществом
  • Готовность работать с определённой гибкостью часовых поясов
  • Возможность работать полный рабочий день — 40 часов в неделю

Преимущества

  • Расходы на рабочие поездки покрываются
  • Расходы на оборудование покрываются
  • В офисе в Беркли предоставляются обеды и ужины
  • Доступна визовая поддержка для США или Сингапура
  • Оплачиваемый пробный период

Похожие вакансии

ICON plc

Аналитик по договорам в клинических исследованиях — Венгрия (удалённо)

ICON plc

Ведение счетов, сверок и договорной документации для услуг ICON в сфере клинических исследований. Полная занятость, работа из дома в Венгрии в рамках глобальной модели исследований для конкретного спонсора.

Открыть
University of Phoenix

Специалист по операционной поддержке успеха клиентов

University of Phoenix
5 001 – 10 000 Сотрудники
B2CОбразование

Поддерживайте партнерства с работодателями Университета Финикса, координируя работу по взаимодействию и успеху клиентов. Ведите учет студентов, документацию в CRM, отчеты по воронке и процессы взаимодействия.

Открыть
Boeing

Руководитель инженерного отдела по безопасности систем и охране окружающей среды

Boeing

Руководите работой по безопасности воздушных судов и экологической инженерии в рамках программ Boeing Defence UK. Управляйте инженерными командами, бюджетами, обеспечением соответствия и выполнением задач совместно с Министерством обороны Великобритании.

Открыть
Matific

Менеджер по успеху клиентов, Туркменистан

Matific

Поддерживайте работу математической образовательной платформы Matific в Туркменистане: развивайте партнёрства в сфере образования и сопровождайте внедрение, обучение и использование платформы. Координируйте проекты с заинтересованными сторонами.

Открыть
Alkami Technology

Технический менеджер инженерной команды в Alkami (удалённо, США)

Alkami Technology

Руководите инженерами-программистами и лично участвуйте в поставке решений для Alkami — поставщика платформы цифрового банкинга. Формируйте масштабируемую архитектуру, операционные практики и межфункциональное взаимодействие.

Открыть
Rolling Stories

Менеджер по успеху клиентов SAP SuccessFactors

Rolling Stories
11 – 50 Сотрудники
HR-технологииМедиа

Ведение клиентских аккаунтов SAP SuccessFactors в Сингапуре после внедрения, координация предоставления услуг и развитие отношений с клиентами. Контроль соблюдения SLA, удовлетворённости клиентов, продлений и роста аккаунтов.

Открыть
Sky Betting & Gaming

Руководитель разработки: реестр операций и балансы клиентов

Sky Betting & Gaming
1 001 – 5 000 Сотрудники
B2CАзартные игрыИгры

Руководите командой, отвечающей за реестр операций букмекерской платформы и систему балансов клиентов, создавая безопасные и масштабируемые решения на Java и AWS. Курируйте миграцию кошельков и операционные практики.

Открыть
The Crown Estate

Руководитель направления геотехнической и геологической инженерии

The Crown Estate

Руководите геологическими и геотехническими исследованиями для планирования морского дна Crown Estate, поддерживая решения по морской ветроэнергетике, аренде морских участков и инвестициям. Участвуйте в создании национальной модели морского грунта и планировании будущего использования морского дна.

Открыть
Aflac Northern Ireland

Менеджер инженерной команды по продуктам для агентов по продажам

Aflac Northern Ireland

Руководите инженерными командами, создающими AI-native платформу Aflac для агентов по продажам, включая защищённые веб- и мобильные продукты с высокой нагрузкой.

Открыть
Ford Motor Company

Старший руководитель инженерного отдела электронной коммерции

Ford Motor Company

Руководите инженерными менеджерами и Scrum-командами, создающими онлайн-сервис покупки автомобилей Ford. Координируйте разработку на React и Next.js для Ford.com.

Открыть