AI 安全专家（英语和泰米尔语）——远程合同
Mercor 正在寻找一名能够使用英语和泰米尔语的 AI 安全专家，对话模型和智能体开展红队测试。 该合同岗位主要负责识别漏洞、生成评测数据，并编写可复现的安全报告。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方法，对对话式 AI 模型和智能体开展对抗性测试。
- 通过标注失败案例、归类漏洞和识别系统性风险，创建人工生成的数据。
- 使用既定的分类体系、基准测试和操作手册，保持评测的一致性。
- 为客户交付可复现的报告、数据集和攻击案例。
- 评估涉及敏感主题的 AI 输出，包括偏见、错误信息和有害行为。
- 识别自动化评测方法可能忽略的弱点。
- 扩大评测覆盖范围，帮助减少生产环境中的意外问题。
- 通过结构化的对抗性测试改进客户的 AI 系统。
任职要求
- 英语和泰米尔语达到母语或流利水平。
- 在评估语言和内容时具备良好的判断力。
- 能够判断 AI 回复是否准确、完整且适当，并解释判断依据。
- 能够敏锐关注细微错误、不一致之处和遗漏。
- 始终遵循指南和质量标准。
- 能够向技术和非技术受众清晰地阐述推理过程。
- 能够适应不同项目、任务形式和客户的要求。
- 能够以独立承包商身份工作。
- 不支持 H1-B 和 STEM OPT 候选人。
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF 或 DPO 攻击，或模型提取。
- 优先考虑：具备网络安全经验，包括渗透测试、漏洞利用开发或逆向工程。
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式 AI 测试。
- 优先考虑：具备心理学、表演或写作方面的创造性探测经验。
福利待遇
- 完全远程工作。
- 工作时间灵活，可自行安排工时。
- 通过 Stripe 或 Wise 每周收款。
- 可选择参与高敏感度项目。
- 针对涉及敏感内容的工作提供清晰指导和身心健康资源。
- 具有竞争力的时薪。
- 有机会与顶尖研究人员合作。
- 每成功推荐一名候选人，最高可获得 90 美元的推荐奖励，但须遵守适用的上限规定。
- 可根据请求提供合理便利。