AI模型安全红队测试员
通过对抗性测试，探查 Mercor 前沿 AI 模型的安全弱点。 发现漏洞并帮助提升模型对齐能力。
描述
- 设计对抗性提示词，测试前沿 AI 模型。
- 发现越狱、安全风险行为、幻觉和违反政策的情况。
- 测试模型应对虚假信息、网络安全、生物安全、欺诈、政治内容及其他敏感领域的韧性。
- 记录漏洞，并协助制定安全基准和红队测试报告。
- 与 AI 研究人员合作，增强模型对齐能力、韧性和安全性。
- 协助保护并改进下一代前沿 AI 模型。
- 参与训练和改进 AI 系统的项目。
任职要求
- 计算机科学、网络安全、新闻、传播学、心理学、生物学、化学、公共政策或相关领域的学士或更高学位
- 至少五年 AI 安全、AI 红队测试、信任与安全、网络安全、调查新闻、生命科学或相关领域的专业经验
- 具备出色的分析推理、提示词设计和写作能力
- 有设计对抗性提示词或评估前沿 AI 系统的经验
- 有 AI 红队测试、RLHF、监督微调、AI 对齐或信任与安全经验者优先
- 熟悉越狱测试、提示词工程或对抗性评估方法者优先
- 在至少一个敏感领域具备专业知识者优先，例如网络安全、生物安全、政治内容、虚假信息或科学安全
- 不得需要 H-1B 或 STEM OPT 赞助；Mercor 无法为需要这两类赞助的候选人提供支持
福利待遇
- 完全远程工作，时间安排灵活
- 通过 Stripe 或 Wise 每周支付已提供服务的报酬
- 项目时长可能因项目需求和工作表现而调整或提前结束
- 与领先的 AI 研究人员和安全团队共事
- 助力塑造 AI 系统应对复杂现实安全挑战的方式
- 可按需提供合理便利
- 每成功推荐一位候选人，最高可获 340 美元推荐奖励，具体受相关限制约束