远程 AI 安全专家（英语和古吉拉特语）——合同制
Mercor 正在寻找一名精通英语和古吉拉特语的合同制 AI 安全专家，对前沿 AI 模型进行红队测试。工作包括测试漏洞、评估故障，并创建可复现的数据集和攻击案例。
描述
- 测试对话式 AI 模型和智能体，检查越狱、提示注入、滥用场景、偏见利用和多轮操纵
- 通过标注故障、归类漏洞和识别系统性风险来创建人工生成数据
- 使用既定的分类体系、基准测试和操作手册开展一致性评估
- 制定可复现的客户报告、数据集和攻击案例
- 评估 AI 输出中的偏见、错误信息和有害行为等敏感问题
- 发现自动化测试无法检测的弱点
- 扩大评估覆盖范围，帮助防止生产环境中出现意外问题
- 参与训练和改进前沿 AI 系统的项目
任职要求
- 母语或流利的英语和古吉拉特语能力
- 在评估语言和内容的准确性、完整性及适当性时具备良好的判断力
- 能够发现细微错误、不一致之处和遗漏
- 始终遵循既定指南和质量标准
- 能够向技术和非技术受众清晰说明判断依据
- 能够根据项目、任务形式和客户需求灵活调整
- 以独立承包商身份参与
- H-1B 和 STEM OPT 候选人不符合资格
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF/DPO 攻击或模型提取
- 优先考虑：具备渗透测试、漏洞利用开发或逆向工程方面的网络安全经验
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式 AI 测试
- 优先考虑：具备心理学、表演或写作经验，能够支持非常规的对抗性思维
福利待遇
- 可在美国境内远程工作
- 根据可用时间选择灵活的工作安排
- 通过 Stripe 或 Wise 按周收款
- 可选择参与或不参与高敏感度项目
- 可获得敏感内容任务的明确指导和健康支持资源
- 具有竞争力的时薪报酬
- 可应要求提供合理便利
- 每成功推荐一人，最高可获得 90 美元，具体受适用限额约束