远程 AI 安全专家（英语和泰米尔语）
Mercor 正在寻找一名会英语和泰米尔语的 AI 安全专家，对话模型和智能体进行红队测试。 该合同职位主要负责发现漏洞、评估敏感输出，并为前沿 AI 训练创建可复现的安全数据。
描述
- 通过越狱、提示注入、滥用场景、偏见利用和多轮操纵，对对话式 AI 模型和智能体进行红队测试
- 标注故障、分类漏洞并识别系统性风险
- 持续一致地应用既有分类体系、基准和测试流程
- 创建可复现的报告、数据集和攻击案例
- 评估涉及偏见、错误信息、有害行为及其他敏感主题的 AI 输出
- 发现自动化测试可能遗漏的弱点，扩大评估覆盖范围
- 与开发和改进前沿 AI 系统的项目团队合作
任职要求
- 英语和泰米尔语达到母语或流利水平
- 在评估语言和内容时具备良好的判断力
- 能够判断 AI 回复是否准确、完整且合适
- 敏锐关注细微错误、不一致之处和遗漏
- 始终遵守指南和质量标准
- 能够向技术和非技术受众清晰解释推理过程
- 能够灵活适应不同项目、任务形式和客户
- 能够以独立承包商身份工作
- 不得要求提供 H-1B 或 STEM OPT 赞助
- 有对抗性机器学习、网络安全、社会技术风险或创造性探测经验者优先
福利待遇
- 完全远程工作
- 灵活安排工作时间
- 通过 Stripe 或 Wise 按周收款
- 具有竞争力的报酬
- 积累以人工数据为驱动的 AI 红队测试经验
- 帮助打造更稳健、更安全、更值得信赖的 AI 系统
- 与顶尖研究人员合作
- 可应要求提供合理便利
- 每成功推荐一人，最高可获得 90 美元的推荐奖励