AI安全红队专家（英语和旁遮普语）
使用英语和旁遮普语对对话式AI模型及智能体开展对抗性测试。 为Mercor的人类数据AI安全项目创建漏洞注释、攻击案例、数据集和可复现的安全报告。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方式探测对话式AI模型及智能体
- 通过记录失败表现、对漏洞进行分类并识别系统性风险，创建人类数据注释
- 使用既有的分类体系、基准和操作手册，保持评估的一致性
- 为客户交付可复现的报告、数据集和攻击案例
- 评估与偏见、错误信息、有害行为及其他敏感主题相关的AI输出
- 扩大评估覆盖范围，识别自动化测试可能遗漏的漏洞
- 帮助提升客户AI系统的安全性、稳健性和可信度
任职要求
- 英语和旁遮普语母语或流利水平的语言能力
- 在评估AI生成内容的准确性、完整性和适当性时具备良好的判断力
- 能够识别细微错误、不一致之处和遗漏
- 始终遵循指南、分类体系、基准、操作手册和质量标准
- 能够向技术和非技术受众清晰说明推理过程
- 能够灵活适应不同项目、任务形式和客户要求
- 能够以独立承包商身份工作
- 不支持H1-B和STEM OPT候选人
- 具备对抗性机器学习、越狱数据集、提示注入或RLHF/DPO攻击、模型提取、渗透测试、漏洞利用开发、逆向工程、骚扰或虚假信息探测、滥用分析、对话式AI测试、心理学、表演或非传统对抗性写作方面的背景者优先
福利待遇
- 完全远程工作，时间安排灵活且可自行管理
- 通过Stripe或Wise每周收款
- 具有竞争力的薪酬
- 提供健康资源，并为高敏感度项目提供明确指导
- 可应要求提供合理便利
- 每成功推荐一人，最高可获得90美元推荐奖励
- 有机会与顶尖研究人员合作
- 获得在人类数据AI红队测试领域开展前沿AI安全实践的亲身经验