AI 安全专家——英语和阿萨姆语｜Mercor 远程合同
对前沿 AI 模型进行对抗性测试，识别越狱、偏见、滥用及其他安全风险。 为 Mercor 客户创建人工数据标注、漏洞分类和可复现的攻击证据。
描述
- 对对话式 AI 模型和智能体进行对抗性测试，识别越狱、提示注入、滥用、偏见利用和多轮操纵
- 创建人工数据标注，对失败进行分类，并识别系统性风险
- 使用既有分类法、基准测试和操作手册，使评估标准化
- 为客户交付可复现的报告、数据集和攻击案例
- 评估涉及偏见、错误信息、有害行为及其他敏感主题的 AI 响应
- 发现自动化测试无法检测的弱点
- 扩大评估覆盖范围，帮助预防生产环境中的意外问题
- 通过结构化对抗性测试改进客户的 AI 系统
任职要求
- 英语和阿萨姆语达到母语流利程度
- 在评估语言和内容的准确性、完整性及适当性时具备良好的判断力
- 能够发现细微错误、不一致和遗漏
- 始终遵守指南和质量标准
- 能够向技术和非技术受众清晰说明推理过程
- 能够灵活应对不同项目、任务格式和客户需求
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF 或 DPO 攻击，或模型提取
- 优先考虑：具备网络安全经验，包括渗透测试、漏洞利用开发或逆向工程
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式 AI 测试
- 优先考虑：具备心理学、表演或写作经验，能够支持非常规的对抗性思维
- 必须以独立承包商身份工作
- 不支持 H-1B 和 STEM OPT 候选人
福利待遇
- 完全远程工作
- 自行选择工作时间
- 通过 Stripe 或 Wise 每周收款
- 积累人工数据驱动的 AI 红队实战经验
- 帮助 AI 系统变得更稳健、更安全、更值得信赖
- 与领先研究人员合作
- 可应请求提供合理便利
- 成功推荐候选人可获得最高 90 美元的推荐奖励