Faculty 开发前沿人工智能和机器学习解决方案，旨在应对国防、医疗保健、金融服务、公共服务和零售等领域的复杂运营挑战。公司与各类组织合作，将先进人工智能应用于国家安全、结果预测和流程改进等领域，注重实际成效、负责任的部署以及可持续性。
Faculty高级人工智能安全研究科学家——评估（混合办公，英国）
负责Faculty在化学、生物、放射性和核风险以及网络风险方面的人工智能安全评估研究。 开发支持先进人工智能系统负责任部署的方法、工具和证据。
描述
- 开发涵盖化学、生物、放射性和核风险以及网络风险等高影响领域的先进安全评估。
- 开展从最初构想到发表成果的原创人工智能安全研究。
- 发现能够强化组织安全评估研究议程的战略机遇。
- 为客户项目、评估计划和前沿实验室红队测试提供技术专业知识。
- 代表Faculty与研究人员、前沿人工智能实验室及政府利益相关方开展交流。
- 撰写论文、技术报告、评估框架并开发研究工具。
- 与Faculty的人工智能安全团队和交付团队密切合作。
任职要求
- 能够证明对研究项目的完整负责，从提出原创问题到发表成果。
- 具备设计和实施人工智能评估或基准测试的实践经验。
- 能够评估构念效度并处理混淆因素。
- 精通红队测试、对抗性测试、越狱、间接提示注入和模型防护机制稳健性。
- 扎实掌握实验设计、统计分析、不确定性量化和贝叶斯方法。
- 全面理解语言模型、生成式人工智能架构、训练方法和安全缓解措施。
- 熟练使用Python。
- 致力于采用稳健、可复现的研究工程实践。
- 具备威胁建模和风险建模经验者优先。
- 具备化学、生物、放射性和核领域或网络安全知识、经验者优先。
- 拥有通过重要论文或同等实践成果证明的、有影响力的人工智能研究记录者优先。
- 英国签证担保要求将在申请过程中评估。
福利待遇
- 可协商兼职工作安排。
- 以多元化和包容性为核心的招聘方式。
- 可使用人工智能工具辅助研究和面试准备。
- 每份申请都会经过人工审核。
- 可选择不使用人工智能面试记录工具。