Mercor AI 安全专家——英语和古吉拉特语，美国远程合同
为 Mercor 对对话式 AI 模型和智能体开展人工主导的红队评估。使用英语和古吉拉特语生成漏洞数据、攻击场景及可复现的安全评估。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方式，对对话式 AI 模型和智能体开展红队测试
- 标注故障、分类漏洞并升级系统性风险
- 使用既定的分类体系、基准和操作手册，保持评估的一致性
- 创建可复现的报告、数据集和攻击场景
- 评估涉及偏见、错误信息、有害行为及其他敏感主题的 AI 输出
- 发现自动化测试可能遗漏的弱点
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
- 通过人工生成、数据驱动的红队测试改进客户的 AI 系统
任职要求
- 英语和古吉拉特语达到母语级流利程度
- 在评估语言和内容时具备良好的判断力
- 能够判断 AI 回复是否准确、完整且适当，并解释评估结果
- 高度关注细微错误、不一致和遗漏
- 始终遵守指南和质量标准
- 能够向技术和非技术受众清晰说明推理过程
- 能够灵活适应不同项目、任务形式和客户
- 愿意以独立承包商身份工作
- 不得是 H-1B 或 STEM OPT 候选人
- 具备对抗性机器学习、网络安全、社会技术风险或创造性探测方面的专业知识者优先
福利待遇
- 完全远程的合同工作
- 灵活安排工作时间
- 通过 Stripe 或 Wise 每周付款
- 可选择参与更高敏感度的项目
- 为涉及敏感内容的工作提供指导和健康支持资源
- 具有竞争力的报酬
- 有机会与顶尖研究人员合作
- 可应要求提供合理便利
- 推荐计划：每次成功推荐最高可获得 90 美元