AI安全红队测试员
Mercor 正在招聘 AI 安全红队测试员，通过对抗性提示词探测前沿模型。工作重点是发现模型弱点，并协助 AI 实验室合作伙伴提升模型对齐、稳健性与安全性。
描述
- 编写对抗性提示词，探测前沿 AI 模型。
- 发现越狱漏洞、不安全行为、幻觉和策略失效。
- 评估模型在虚假信息、网络安全、生物安全、欺诈和政治内容等敏感领域的稳健性。
- 记录漏洞，并协助准备安全基准测试和红队测试报告。
- 与 AI 研究人员合作，增强模型对齐、稳健性与安全性。
- 参与训练和改进 AI 系统的项目。
任职要求
- 计算机科学、网络安全、新闻、传播学、心理学、生物学、化学、公共政策或相关领域的学士及以上学历。
- 至少五年 AI 安全、AI 红队测试、信任与安全、网络安全、调查新闻、生命科学或相关领域的专业经验。
- 具备出色的分析推理、提示词设计和书面沟通能力。
- 有创建对抗性提示词或评估前沿 AI 系统的经验。
- 具备 AI 红队测试、RLHF、SFT、AI 对齐或信任与安全经验者优先。
- 熟悉越狱测试、提示词工程或对抗性评估方法者优先。
- 在网络安全、生物安全、政治内容、虚假信息或科学安全等需要细致判断的领域具备专长者优先。
- 能够以独立承包商身份工作。
- 不支持 H-1B 和 STEM OPT 候选人。
福利待遇
- 可在美国境内任何地点远程工作。
- 自行安排工作时间。
- 通过 Stripe 或 Wise 每周收款。
- 项目可能根据项目需求和工作表现延期、缩短或提前结束。
- 与领先的 AI 研究人员和安全团队合作。
- 助力塑造前沿 AI 系统的安全性。
- 可按需提供合理便利。
- 每成功推荐一位候选人，最高可获得 340 美元推荐奖励；适用限制条件。
