AI 安全红队测试员——远程合同（美国）
Mercor 正在寻找一名 AI 安全红队测试员，通过对抗性测试发现前沿 AI 模型中的漏洞。 该职位需要设计提示词，并与 AI 安全研究人员一起评估模型的高风险行为。
描述
- 创建用于挑战前沿 AI 模型的对抗性提示词
- 检测越狱攻击、不安全行为、幻觉和政策违规
- 评估模型在错误信息、网络安全、生物安全、欺诈、政治内容及其他敏感领域的稳健性
- 记录漏洞，并支持安全基准测试和红队测试报告
- 与 AI 研究人员合作，提升模型的对齐性、稳健性和安全性
- 参与训练和改进 AI 系统的项目
任职要求
- 计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域本科及以上学历
- 至少五年 AI 安全、AI 红队测试、信任与安全、网络安全、调查新闻、生物生命科学或相关领域的专业经验
- 具备较强的分析推理、提示词设计和书面沟通能力
- 有创建对抗性提示词或评估前沿 AI 系统的经验
- 有 AI 红队测试、RLHF、SFT、AI 对齐或信任与安全经验者优先
- 熟悉越狱测试、提示词工程或对抗性评估方法者优先
- 在网络安全、生物安全、政治内容、错误信息或科学安全等一个或多个灰色领域具备专业知识者优先
- 能够以独立承包商身份工作
- 不支持 H-1B 和 STEM OPT 候选人
福利待遇
- 完全远程工作
- 工作时间安排灵活
- 通过 Stripe 或 Wise 按周付款
- 项目可能根据业务需求和工作表现延期、缩短或提前结束
- 与领先的 AI 研究人员和安全团队开展对抗性测试工作
- 有机会影响 AI 系统应对复杂现实安全挑战的方式
- 可根据要求提供合理便利
- 每次成功推荐最高可获 340 美元推荐奖励，受推荐次数限制约束