AI安全红队专家——英语和芬兰语，美国远程
为 Mercor 的人类数据 AI 项目对话式 AI 模型和智能体开展对抗性测试。 创建可复现的漏洞数据，帮助强化前沿 AI 系统。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵测试对话式 AI 模型和智能体
- 标注失败情况、分类漏洞并识别系统性风险
- 应用既有的分类法、基准和操作手册，开展一致性评估
- 为客户创建可复现的报告、数据集和攻击案例
- 识别自动化测试可能忽略的漏洞
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
- 与顶尖研究人员合作开展训练和改进 AI 系统的项目
任职要求
- 英语和芬兰语流利或达到母语水平
- 具备 AI 对抗性工作、网络安全或社会技术探测方面的红队经验
- 能够对 AI 系统开展对抗性测试，并推动其暴露失效点
- 具备应用框架或基准开展结构化测试的经验
- 能够向技术和非技术受众清晰传达风险
- 能够适应不同项目和客户要求
- 能够以独立承包商形式参与合作
- 不得是 H-1B 或 STEM OPT 候选人
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF/DPO 攻击或模型提取
- 优先考虑：具备渗透测试、漏洞利用开发或逆向工程方面的网络安全经验
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式 AI 测试
- 优先考虑：具备心理学、表演或写作经验，能够支持非常规的对抗性思维
福利待遇
- 完全远程工作
- 灵活安排工作时间
- 通过 Stripe 或 Wise 按周支付
- 提供健康资源，并为高敏感度项目制定明确指南
- 有机会积累人类数据 AI 红队经验
- 有机会直接帮助 AI 系统变得更稳健、安全和值得信赖
- 具有竞争力的薪酬
- 每成功推荐一人，推荐奖金最高为 250 美元