AI 安全专家——英语和马拉地语（远程）
Mercor 正在寻找能使用英语和马拉地语的 AI 安全专家，对话模型和智能体开展红队测试。工作包括识别漏洞、评估敏感输出，并为 AI 实验室和客户创建可复现的安全数据。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方法，对对话式 AI 模型和智能体开展红队测试
- 通过标注失败案例、分类漏洞和识别系统性风险，创建人工评估数据
- 使用既定的分类体系、基准和操作手册，支持一致的评估
- 为客户开发可复现的报告、数据集和攻击案例
- 评估与偏见、错误信息、有害行为及其他敏感主题相关的 AI 输出
- 识别自动化测试可能遗漏的漏洞
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
- 支持客户提升其 AI 系统的安全性、稳健性和可信度
任职要求
- 英语和马拉地语均达到母语流利程度
- 评估语言和内容时具备出色的判断力，包括判断 AI 回复是否准确、完整且恰当
- 能够发现细微错误、不一致之处和遗漏
- 能够始终如一地遵循指南和质量标准
- 能够向技术和非技术受众清晰说明推理过程
- 能够适应不同项目、任务类型和客户
- 能够以独立承包商身份工作
- 不得需要 H-1B 或 STEM OPT 支持
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF 或 DPO 攻击，或模型提取方面的经验
- 优先考虑：具备网络安全经验，包括渗透测试、漏洞利用开发或逆向工程
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式 AI 测试
- 优先考虑：具备心理学、表演或写作经验，能够支持非常规的对抗性思维
福利待遇
- 完全远程工作，可根据自己的时间安排完成
- 通过 Stripe 或 Wise 每周收款
- 可选择参与敏感度更高的项目
- 为涉及敏感内容的工作提供明确指南和健康资源
- 具有竞争力的薪酬
- 有机会与顶尖研究人员合作
- 每成功推荐一人，最高可获得 90 美元的推荐奖励，具体受相关限制约束