AI安全专家，英语和荷兰语（远程合同）
Mercor正在寻找能够使用英语和荷兰语的AI安全专家，对话模型和智能体进行红队测试。工作包括创建漏洞数据和攻击场景，并编写可复现的安全报告，以支持前沿AI开发。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方式测试对话式AI模型和智能体
- 通过标注故障、分类漏洞和识别系统性风险，创建人工生成的数据
- 使用分类体系、基准和操作手册支持一致的安全测试
- 为客户开发可复现的报告、数据集和攻击案例
- 发现自动化测试可能忽略的漏洞
- 扩大评估覆盖范围，帮助减少生产环境中的意外风险
- 与领先研究人员合作，训练和改进前沿AI系统
任职要求
- 英语和荷兰语达到母语流利程度
- 具备AI红队测试、网络安全对抗工作或社会技术探测经验
- 能够以对抗方式测试AI系统，并推动其进入失效条件
- 具备将框架或基准应用于结构化测试的经验
- 能够向技术和非技术受众清晰传达风险
- 能够适应不同项目和客户的需求
- 具备对抗性机器学习经验者优先，包括越狱数据集、提示注入、RLHF/DPO攻击或模型提取经验
- 具备网络安全经验者优先，包括渗透测试、漏洞利用开发或逆向工程经验
- 具备社会技术风险经验者优先，包括骚扰或虚假信息探测、滥用分析或对话式AI测试经验
- 具备心理学、表演或写作方面的创造性探测经验者优先
- 必须能够以独立承包商身份工作
- 不支持H-1B和STEM OPT候选人
福利待遇
- 完全远程工作
- 工作时间灵活，可自行安排时数
- 根据已交付的服务，通过Stripe或Wise按周付款
- 项目可能根据业务需求和工作表现延长、缩短或提前结束
- 是否参与高敏感度项目由个人自愿决定
- 提供内容指南和健康资源
- 可应要求提供合理便利
- 具有竞争力的时薪
- 每成功推荐一人，最高可获得250美元的推荐奖励，具体受相关限制约束