Faculty 开发前沿人工智能和机器学习解决方案，旨在应对国防、医疗保健、金融服务、公共服务和零售等领域的复杂运营挑战。公司与各类组织合作，将先进人工智能应用于国家安全、结果预测和流程改进等领域，注重实际成效、负责任的部署以及可持续性。
AI安全研究科学家——伦敦混合办公
在Faculty担任研究科学家，专注于理解和引导基于Transformer的大语言模型行为。工作结合严谨的AI安全研究、可复现工具开发与实际应用。
描述
- 研究支持可信AI负责任部署的AI安全问题
- 规划并执行实验，以理解和影响模型行为
- 采用白盒和黑盒方法分析基于Transformer的大语言模型
- 使用PyTorch等工具编写模块化、可复现的Python研究软件
- 创建并维护研究所需的基础设施和技术工具
- 通过学术论文、技术报告和演讲分享研究成果
- 与资深科学家合作，发现文献空白、验证假设并规划研究项目
- 向前沿实验室、政府机构、外部合作伙伴和安全研究机构解释技术发现
任职要求
- 扎实掌握机器学习和Transformer架构，尤其是大语言模型
- 了解白盒和黑盒可解释性方法，包括引导向量和机制可解释性
- 能够从结构化技术挑战中提出严谨明确的假设
- 具备高级Python编程能力，并有使用PyTorch等深度学习框架的经验
- 有开发整洁、模块化研究软件的成果证明
- 有使用Git管理代码的经验
- 具备清晰的沟通能力，能够通过报告和演示介绍复杂技术理念与实验结果
- 对研究具有好奇、严谨和分析性的方法
- 熟悉AI安全主题，例如稳健性、评估或不确定性校准
- 能够说明是否需要英国工作签证赞助
福利待遇
- 可协商兼职工作安排
- 每份申请都会由人工审核，而不是由AI决定
- 可使用AI工具进行研究和面试准备
- 可以选择不使用面试AI记录工具