AI 安全专家——英语和孟加拉语（远程合同）
Mercor 正在寻找一名会说英语和孟加拉语的 AI 安全红队测试人员，以识别对话式 AI 系统中的漏洞。该职位需要构建可复现的攻击案例，并为训练前沿模型的 AI 实验室制作人工生成数据。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方式测试对话式 AI 模型和智能体
- 通过标注故障、对漏洞分类并识别系统性风险，创建人工生成数据
- 使用既有的分类体系、基准测试和操作手册，确保评估保持一致
- 为客户交付可复现的报告、数据集和攻击案例
- 评估 AI 在偏见、错误信息、有害行为及其他敏感主题方面的回复
- 扩大评估覆盖范围，助力打造更强大的客户 AI 系统
任职要求
- 英语和孟加拉语达到母语或流利水平
- 在评估语言和内容时具备良好的判断力，包括判断 AI 回复是否准确、完整且恰当，并能够解释评估结论
- 高度关注细微错误、不一致之处和遗漏
- 可靠地遵循测试指南和质量标准
- 能够向技术和非技术受众清晰说明推理过程
- 愿意在不同项目、任务形式和客户之间灵活调整
- 能够以独立承包商身份工作
- 不得需要 H-1B 或 STEM OPT 赞助
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF/DPO 攻击或模型提取
- 优先考虑：具备渗透测试、漏洞利用开发或逆向工程方面的网络安全经验
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式 AI 测试
- 优先考虑：具备心理学、表演或写作经验，能够支持非常规的对抗性思维
福利待遇
- 完全远程工作
- 安排灵活的工作时间，并根据自己的时间安排工作
- 通过 Stripe 或 Wise 每周收款
- 可选择是否参与高敏感度项目
- 可获得清晰的指导和敏感内容任务相关的身心健康资源
- 获得具有竞争力的报酬
- 积累以人工数据为基础的 AI 红队测试经验
- 与领先的 AI 研究人员合作
- 每成功推荐一人，最高可获得 90 美元的推荐奖励