
AI安全红队测试员
Mercor正在招聘AI安全红队测试员,通过对抗性提示探测先进AI系统。 该职位负责记录风险,并与研究人员合作提升模型安全性与对齐水平。
描述
- 设计对抗性提示,测试先进AI模型
- 发现越狱漏洞、不安全输出、幻觉和政策漏洞
- 评估模型在虚假信息、网络安全、生物安全、欺诈和政治内容等敏感领域的稳健性
- 记录漏洞,并协助制作安全基准和红队测试报告
- 与AI研究人员合作,增强模型对齐、稳健性和安全性
- 参与训练和改进AI系统的项目
任职要求
- 拥有计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士及以上学位
- 至少五年AI安全、AI红队测试、信任与安全、网络安全、调查新闻、生命科学或相关领域的专业经验
- 具备出色的分析推理、提示设计和写作能力
- 有创建对抗性提示或评估先进AI系统的经验
- 优先条件:具备AI红队测试、RLHF、监督微调、AI对齐或信任与安全方面的背景
- 优先条件:熟悉越狱测试、提示工程或对抗性评估方法
- 优先条件:在网络安全、生物安全、政治内容、虚假信息或科学安全等复杂领域具备专长
- 必须能够以独立承包商身份工作
- 不支持H-1B和STEM OPT候选人
福利待遇
- 完全远程工作,时间安排灵活
- 通过Stripe或Wise按周支付已提供服务的费用
- 项目期限可能根据需求和表现延长、缩短或提前结束
- 具有竞争力的报酬
- 有机会与顶尖研究人员和安全团队合作
- 可按需提供合理便利
- 每成功推荐一人可获得最高340美元的推荐奖励,但须遵守相关限制









