远程 AI 安全专家（英语和奥迪亚语）– 合同制
Mercor 正在寻找一名精通英语和奥迪亚语的 AI 安全专家，为前沿模型训练对话式 AI 模型进行红队测试。工作包括创建漏洞标注、攻击案例、数据集和可复现的安全报告。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方法测试对话式 AI 模型和智能体。
- 记录故障、分类漏洞并识别系统性风险。
- 使用既定的分类体系、基准和操作手册，确保评估保持一致。
- 创建可复现的安全报告、数据集和攻击案例。
- 调查模型输出中的偏见、错误信息和有害行为。
- 支持 Mercor AI 实验室及其企业客户对前沿 AI 系统的训练和改进。
任职要求
- 英语和奥迪亚语达到母语级流利程度。
- 评估语言和内容时具备良好的判断力。
- 能够判断 AI 回复是否准确、完整且适当，并解释判断依据。
- 高度关注细微错误、不一致之处和遗漏。
- 能够可靠地遵循指南和质量标准。
- 能够向技术和非技术受众清晰地阐述推理过程。
- 能够灵活参与不同项目、任务形式和客户的工作。
- 愿意以独立承包商身份参与工作。
- 申请人不得为 H-1B 或 STEM OPT 候选人。
- 具备对抗性机器学习、网络安全、社会技术风险或创造性探测方面的经验或专长者优先。
福利待遇
- 完全远程工作。
- 灵活安排工作时间。
- 可选择参与高敏感度项目。
- 为涉及敏感内容的项目提供指南和健康资源。
- 通过 Stripe 或 Wise 每周付款。
- 具有竞争力的薪酬。
- 有机会与顶尖研究人员合作。
- 每成功推荐一人，最高可获得 90 美元的推荐奖励。