AI安全红队测试员
为Mercor合作实验室对前沿AI系统进行红队测试，发现漏洞并评估模型的高风险行为。 设计对抗性提示，并协助记录安全评估结果。
描述
- 设计对抗性提示，在压力条件下测试前沿AI模型。
- 发现越狱攻击、不安全输出、幻觉以及未能遵循政策的情况。
- 评估模型在虚假信息、网络安全、生物安全、欺诈、政治内容及其他敏感领域的韧性。
- 记录漏洞，并协助准备安全基准和红队报告。
- 与AI研究人员合作，提升模型对齐、韧性和安全性。
- 为Mercor合作的AI实验室及训练和改进AI系统的企业完成项目。
任职要求
- 计算机科学、网络安全、新闻、传播学、心理学、生物学、化学、公共政策或相关领域的学士或更高学位。
- 至少五年AI安全、AI红队测试、信任与安全、网络安全、调查新闻、生物科学或相关领域的专业经验。
- 具备出色的分析推理、提示设计和书面沟通能力。
- 有创建对抗性提示或评估前沿AI系统的经验。
- 有AI红队测试、RLHF、监督式微调、AI对齐或信任与安全经验者优先。
- 熟悉越狱测试、提示工程或对抗性评估方法者优先。
- 在网络安全、生物安全、政治内容、虚假信息或科学安全等复杂领域具备专业知识者优先。
- 必须具备在所列地点之一工作的资格。
- Mercor目前无法为H-1B或STEM OPT候选人提供支持。
福利待遇
- 完全远程工作。
- 安排灵活的时间表，按自己的时间完成工作。
- 通过Stripe或Wise每周收款。
- 项目可能根据项目需求和工作表现延长、缩短或提前结束。
- 具有竞争力的薪酬。
- 与领先的AI研究人员和安全团队合作。
- 为前沿AI安全和模型开发作出贡献。
- 每成功推荐一人，最高可获得340美元，受推荐名额限制。
- 可根据要求提供合理便利。
