人工智能安全红队测试员 - 美国远程
Mercor 正在招聘远程人工智能安全红队测试员，挑战前沿人工智能模型并发现高风险领域中的漏洞。 该合同职位将支持人工智能实验室开发和改进先进系统。
描述
- 创建对抗性提示词，探测前沿人工智能模型
- 检测越狱攻击、不安全行为、幻觉和政策违规
- 评估模型抵御虚假信息、网络威胁、生物安全风险、欺诈、政治内容及其他敏感主题的能力
- 记录发现的漏洞，并协助制定安全基准和红队报告
- 与人工智能研究人员合作，增强模型的对齐性、稳健性和安全性
- 参与训练和改进人工智能系统的项目
任职要求
- 计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士学位或更高学历
- 至少五年人工智能安全、人工智能红队测试、信任与安全、网络安全、调查性新闻、生命科学或相关领域的专业经验
- 具备出色的分析判断力、提示词设计能力和书面沟通能力
- 有创建对抗性提示词或评估前沿人工智能系统的经验
- 具备人工智能红队测试、RLHF、SFT、人工智能对齐或信任与安全经验者优先
- 熟悉越狱测试、提示词工程或对抗性评估方法者优先
- 在网络安全、生物安全、政治内容、虚假信息或科学安全等至少一个灰色领域具备专业知识者优先
- 能够以独立承包商身份工作
- 不支持 H-1B 和 STEM OPT 候选人
福利待遇
- 完全远程工作
- 灵活的自主安排时间
- 通过 Stripe 或 Wise 按周支付
- 项目可能根据业务需求和工作表现延期、缩短或提前结束
- 具有竞争力的报酬
- 与领先的人工智能研究人员和安全团队合作
- 可应要求提供合理便利
- 每次成功推荐最高可获得 340 美元的推荐奖励，但须遵守适用的限制