AI 安全专家——英语和马拉地语（远程合同）
Mercor 正在寻找精通英语和马拉地语的 AI 安全专家，对话式 AI 系统进行红队测试。 该合同职位专注于对抗性测试、漏洞分析，以及为人类数据和前沿 AI 项目提供清晰报告。
描述
- 针对越狱、提示注入、滥用场景、偏见利用和多轮操纵，测试对话式 AI 模型和智能体
- 通过标注失败案例、分类漏洞并识别系统性风险，创建人类数据资产
- 使用既定的分类体系、基准测试和操作手册，确保评估一致
- 交付可复现的攻击案例、数据集和面向客户的报告
- 评估 AI 在敏感主题上的响应，包括偏见、错误信息和有害行为
- 发现自动化评估方法可能遗漏的弱点
- 扩大测试覆盖范围，帮助防止生产环境中的意外问题
- 支持客户提升其 AI 系统的安全性、稳健性和可靠性
- 与顶尖研究人员合作开展训练和推进前沿 AI 模型的项目
任职要求
- 母语或流利使用英语和马拉地语
- 在评估语言和内容时具备良好的判断力
- 能够判断 AI 响应是否准确、完整且合适，并清晰说明理由
- 仔细关注细微错误、不一致之处和遗漏
- 可靠遵守测试指南和质量要求
- 能够向技术和非技术受众清晰传达推理过程
- 能够灵活参与不同项目、任务和客户的工作
- 能够以独立承包商身份工作
- 不得需要 H-1B 或 STEM OPT 赞助
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF/DPO 攻击或模型提取
- 优先考虑：具备网络安全经验，包括渗透测试、漏洞利用开发或逆向工程
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式 AI 测试
- 优先考虑：具备心理学、表演或写作经验，能够支持非常规的对抗性思维
福利待遇
- 完全远程的合同工作
- 灵活安排工作时间，可自行设定工作时段
- 通过 Stripe 或 Wise 按周付款
- 项目期限可能根据业务需求和工作表现发生变化或提前结束
- 可选择参与涉及较高敏感度内容的项目
- 为敏感内容相关任务提供明确指导和身心健康资源
- 可应要求提供合理便利
- 每成功推荐一人，最高可获得 90 美元推荐奖励