AI 安全红队专家（英语和旁遮普语）
Mercor 正在寻找一名会说英语和旁遮普语的 AI 安全专家，对话模型和智能体开展红队测试。该合同职位专注于发现漏洞、创建攻击案例，并为 AI 研究客户生成可复现的安全报告。
描述
- 通过越狱、提示注入、滥用场景、偏见利用和多轮操纵测试对话式 AI 模型和智能体
- 评估模型在偏见、错误信息和有害行为等敏感主题上的输出
- 记录失败情况，对漏洞进行分类，并识别系统性风险
- 使用既定的分类体系、基准和操作手册，保持评估的一致性
- 为客户创建可复现的报告、数据集和攻击案例
- 调查自动化测试可能忽略的 AI 系统弱点
- 扩大评估覆盖范围，帮助限制生产环境中的意外问题
- 通过人工主导、数据驱动的红队测试改进客户的 AI 系统
任职要求
- 英语和旁遮普语达到母语或流利水平
- 评估语言和内容时具备良好的判断力
- 能够判断 AI 回复是否准确、完整且适当，并解释评估结果
- 对细微错误、不一致和遗漏保持严谨的关注
- 始终遵循测试指南和质量标准
- 能够向技术和非技术受众清晰地传达推理过程
- 能够灵活参与不同项目、任务形式和客户的工作
- 能够以独立承包商身份参与工作
- 不得需要 H-1B 或 STEM OPT 支持
- 具备以下领域的专业知识者优先：对抗性机器学习、越狱数据集、提示注入、RLHF/DPO 攻击、模型提取、渗透测试、漏洞开发、逆向工程、骚扰或虚假信息探测、滥用分析、对话式 AI 测试、心理学、表演或写作
福利待遇
- 在该职位允许的任何地点远程工作
- 自行安排工作时间
- 通过 Stripe 或 Wise 每周领取所提供服务的报酬
- 项目可能根据业务需求和工作表现延期、缩减或提前结束
- 获得健康资源以及高敏感度项目的明确指导
- 积累以人工数据驱动的 AI 红队测试经验
- 帮助让 AI 系统更加稳健、安全和可信
- 具有竞争力的报酬
- 与领先的 AI 研究人员合作