Faculty는 국방, 헬스케어, 금융 서비스, 공공 서비스, 소매 등 다양한 분야의 복잡한 운영 과제를 해결하기 위한 최첨단 인공지능 및 머신러닝 솔루션을 개발합니다. 조직과 협력해 국가 안보, 결과 예측, 프로세스 개선 등의 분야에 첨단 AI를 적용하며, 실질적인 성과와 책임 있는 도입, 지속 가능성을 중시합니다.
Faculty 선임 AI 안전 연구 과학자—평가(하이브리드, 영국)
Faculty에서 CBRN 및 사이버 위험에 대한 AI 안전성 평가 연구를 주도합니다. 첨단 AI 시스템의 책임 있는 배포를 지원하는 방법, 도구, 근거를 개발합니다.
설명
- CBRN과 사이버 등 영향력이 큰 분야를 대상으로 고도화된 안전성 평가를 개발합니다.
- 초기 구상부터 출판까지 독창적인 AI 안전성 연구를 수행합니다.
- 조직의 안전성 평가 연구 의제를 강화할 전략적 기회를 발굴합니다.
- 고객 프로젝트, 평가 프로그램, 프런티어 연구소 레드팀 활동에 기술 전문성을 제공합니다.
- 연구자, 프런티어 AI 연구소, 정부 이해관계자와의 논의에서 Faculty를 대표합니다.
- 출판물, 기술 보고서, 평가 프레임워크, 연구 도구를 제작합니다.
- Faculty의 AI 안전성 팀 및 딜리버리 팀과 긴밀히 협업합니다.
지원 자격
- 독창적인 질문을 식별하는 단계부터 출판까지 연구를 주도한 경험이 입증되어야 합니다.
- AI 평가 또는 벤치마크를 설계하고 구현한 실무 경험이 있어야 합니다.
- 구성 타당도를 평가하고 교란 요인에 대응할 수 있어야 합니다.
- 레드팀, 적대적 테스트, 탈옥, 간접 프롬프트 주입, 모델 안전장치의 견고성에 대한 전문성이 있어야 합니다.
- 실험 설계, 통계 분석, 불확실성 정량화, 베이지안 방법론에 대한 탄탄한 이해가 있어야 합니다.
- 언어 모델, 생성형 AI 아키텍처, 학습 방식, 안전성 완화책을 깊이 이해해야 합니다.
- Python을 능숙하게 사용할 수 있어야 합니다.
- 견고하고 재현 가능한 연구 엔지니어링 실천을 중시해야 합니다.
- 위협 모델링 및 위험 모델링 경험이 있으면 우대합니다.
- CBRN 또는 사이버 보안 관련 지식이나 경험이 있으면 우대합니다.
- 주요 출판물 또는 이에 준하는 실무 성과로 입증된 영향력 있는 AI 연구 실적이 있으면 우대합니다.
- 영국 비자 스폰서십 요건은 지원 과정에서 평가됩니다.
복리후생
- 파트타임 근무 방식은 협의할 수 있습니다.
- 다양성과 포용성을 중심으로 한 채용 방식을 운영합니다.
- 연구 및 면접 준비를 위한 AI 도구를 이용할 수 있습니다.
- 모든 지원서는 사람이 검토합니다.
- AI 면접 기록 도우미 사용을 선택하지 않을 수 있습니다.