远程AI安全专家——英语和阿萨姆语（合同制）
Mercor正在寻找一名远程合同制AI安全专家，要求精通英语和阿萨姆语，负责对前沿模型进行红队测试、评估漏洞，并为AI安全项目创建高质量人工数据。
描述
- 使用越狱、提示注入、误用场景、偏见利用和多轮操纵等方法，对对话式AI模型和智能体进行红队测试
- 通过标注失败案例、分类漏洞和识别系统性风险，创建人工标注数据
- 使用分类体系、基准测试和操作手册，确保评估的一致性
- 为客户制定可复现的报告、数据集和攻击案例
- 评估涉及偏见、错误信息和有害行为等敏感主题的AI输出
- 识别自动化测试无法发现的漏洞
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
- 参与训练和改进前沿AI系统的项目
任职要求
- 英语和阿萨姆语均达到母语水平
- 在评估语言和内容质量时具备良好的判断力
- 能够判断AI回复是否准确、完整且恰当
- 能够向技术和非技术受众清晰地说明推理过程
- 对细微错误、不一致和遗漏具有极强的关注力
- 能够始终如一地应用指南、分类体系、基准测试、操作手册和质量标准
- 能够灵活适应不同项目、任务形式和客户需求
- 必须以独立承包商身份工作
- 目前无法为H-1B和STEM OPT候选人提供支持
- 优先考虑具备对抗性机器学习、网络安全、社会技术风险、对话式AI评估、心理学、表演或写作等领域专业知识的候选人
福利待遇
- 完全远程工作
- 自行安排适合自己的工作时间
- 通过Stripe或Wise每周收款
- 积累以人工数据驱动的AI红队测试实践经验
- 帮助打造更稳健、安全和值得信赖的AI系统
- 与顶尖AI研究人员合作
- 可应要求提供合理便利
- 每成功推荐一人，最高可获得90美元推荐奖励，具体受适用限额约束