S
AI安全红队测试员
通过探测高风险领域中的漏洞，对Mercor合作实验室的前沿AI系统进行压力测试。 将发现纳入安全基准，并协助研究人员提升模型的稳健性与对齐能力。
描述
- 创建对抗性提示词，测试前沿AI模型。
- 发现越狱、非安全行为、幻觉和政策失效问题。
- 评估模型在虚假信息、网络安全、生物安全、欺诈和政治内容等敏感领域的稳健性。
- 记录漏洞，并为安全基准和红队报告提供内容。
- 与AI研究人员合作，加强模型对齐、稳健性和安全性。
- 支持训练和改进AI系统的项目。
- 自行安排工作时间；项目时长可能因业务需求和工作表现而调整或提前结束。
任职要求
- 计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士及以上学历。
- 至少五年AI安全、AI红队测试、信任与安全、网络安全、调查新闻、生命科学或相关领域的专业经验。
- 具备出色的分析推理、提示词设计和写作能力。
- 有创建对抗性提示词或评估前沿AI系统的经验。
- 优先考虑：具备AI红队测试、RLHF、SFT、AI对齐或信任与安全方面的经验。
- 优先考虑：熟悉越狱测试、提示词工程或对抗性评估方法。
- 优先考虑：在一个或多个敏感领域具备专业知识，包括网络安全、生物安全、政治内容、虚假信息或科学安全。
- 合作形式为独立承包商。
- 必须能够在不获得H-1B或STEM OPT支持的情况下工作。
福利待遇
- 完全远程工作，时间安排灵活。
- 服务费用通过Stripe或Wise按周支付。
- 与领先的AI研究人员和安全团队共事。
- 参与塑造AI系统应对复杂现实安全挑战的方式。
- 具有竞争力的薪酬。
- 可按需提供合理便利。
- 每成功推荐一人，最高可获得340美元推荐奖励，具体受相关限制约束。
