AI 安全专家（英语和卡纳达语）– 美国远程合同职位
Mercor 正在寻找一名精通英语和卡纳达语的 AI 红队专家，测试前沿模型的漏洞。该职位将为人类数据 AI 训练项目创建可复现的攻击案例、评估数据集和风险报告。
描述
- 使用越狱攻击、提示注入、滥用场景、偏见利用和多轮操纵测试对话式 AI 模型及智能体
- 通过记录故障、分类漏洞并识别系统性风险，创建人类数据标注
- 使用既定的分类体系、基准测试和操作手册，确保评估一致
- 准备可复现的面向客户的报告、数据集和攻击案例
- 评估 AI 在敏感主题上的响应，包括偏见、错误信息和有害行为
- 调查 AI 系统中自动化测试可能忽略的弱点
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
- 支持 Mercor AI 实验室及企业客户前沿模型的训练和改进
任职要求
- 英语和卡纳达语均达到母语水平
- 在评估 AI 响应是否准确、完整且适当时具备良好的判断力
- 具备清晰的沟通能力，能够向技术和非技术受众解释推理过程
- 严谨细致，能够发现细微错误、不一致和遗漏
- 能够一致地应用分类体系、基准测试、操作手册、指南和质量标准
- 能够灵活适应不同项目、任务形式和客户
- 能够以独立承包商身份工作
- 不得需要 H-1B 或 STEM OPT 赞助；不支持这些赞助途径
- 具备对抗性机器学习、网络安全、社会技术风险、对话式 AI 测试、心理学、表演或非常规对抗性写作相关经验者优先
福利待遇
- 完全远程工作，并可灵活安排自己的时间
- 通过 Stripe 或 Wise 按周收取所提供服务的报酬
- 可选择是否参与涉及较高敏感度内容的项目
- 针对敏感内容任务获得明确指导和身心健康资源
- 获得具有竞争力的报酬
- 积累人类数据驱动的 AI 红队测试实践经验
- 与领先研究人员合作
- 有需要时可申请合理便利
- 每成功推荐一人，最高可获得 90 美元的推荐奖励