AI安全红队测试员
Mercor正在招聘AI安全红队测试员，针对前沿模型探测越狱、幻觉和策略失效问题。 该公司与AI实验室合作，训练并改进AI系统。
描述
- 设计对抗性提示词，测试前沿AI模型。
- 发现越狱、非安全行为、幻觉和策略失效问题。
- 评估模型在虚假信息、网络安全、生物安全、欺诈、政治内容及其他敏感领域的稳健性。
- 记录漏洞，并协助制定安全基准和红队测试报告。
- 与AI研究人员合作，增强模型对齐能力、稳健性和安全性。
- 根据项目需求和表现完成独立承包项目。
任职要求
- 拥有计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士及以上学位。
- 在AI安全、AI红队测试、信任与安全、网络安全、调查新闻、生物科学或相关领域拥有至少五年专业经验。
- 具备出色的分析推理、提示词设计和写作能力。
- 有设计对抗性提示词或评估前沿AI系统的经验。
- 优先考虑：具备AI红队测试、RLHF、SFT、AI对齐或信任与安全方面的经验。
- 优先考虑：熟悉越狱测试、提示工程或对抗性评估方法。
- 优先考虑：在一个或多个敏感领域具备专业知识，包括网络安全、生物安全、政治内容、虚假信息或科学安全。
- 必须能够以独立承包商身份工作。
- 不支持H-1B和STEM OPT候选人。
福利待遇
- 完全远程工作。
- 可自行安排工作时间。
- 已完成服务的款项每周通过Stripe或Wise支付。
- 与顶尖AI研究人员和安全团队共事。
- 为前沿AI安全与对齐工作作出贡献。
- 每成功推荐一位候选人，最高可获340美元推荐奖励，具体受相关限制约束。
- 可按需提供合理便利。
