Mercor 远程人工智能安全专家（英语和马拉地语）
通过用英语和马拉地语进行红队测试，探测对话式人工智能模型的漏洞。为基于人工数据的人工智能安全项目创建可复现的数据集、攻击案例和报告。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方法，对对话式人工智能模型和代理进行红队测试
- 通过标注失败案例、分类漏洞和识别系统性风险，创建人工数据
- 使用分类体系、基准和操作手册，保持评估的一致性
- 为客户编写可复现的报告、数据集和攻击案例
- 评估涉及敏感主题的人工智能输出，包括偏见、错误信息和有害行为
- 识别自动化测试可能忽略的弱点
- 扩大评估覆盖范围，帮助预防生产环境中的意外问题
- 支持客户提升其人工智能系统的安全性、稳健性和可信度
任职要求
- 必须具备流利或母语水平的英语和马拉地语能力
- 对语言和内容具有良好判断力，能够评估人工智能回复是否准确、完整且恰当，并解释判断依据
- 对细微错误、不一致和遗漏具有出色的关注力
- 始终遵守既定指南和质量标准
- 能够向技术和非技术受众清晰传达判断依据
- 能够适应不同项目、任务形式和客户
- 必须以独立承包商身份工作
- 不支持H1-B和STEM OPT候选人
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF或DPO攻击，或模型提取
- 优先考虑：具备网络安全经验，包括渗透测试、漏洞利用开发或逆向工程
- 优先考虑：具备社会技术风险经验，包括骚扰或虚假信息探测、滥用分析或对话式人工智能测试
- 优先考虑：具备心理学、表演或写作经验，能够支持非常规的对抗性思维
福利待遇
- 完全远程工作
- 工作时间灵活，可自行选择工作时段
- 根据已交付的服务，通过Stripe或Wise每周收款
- 项目期限可能根据业务需求和工作表现延长、缩短或提前结束
- 针对涉及较高敏感度内容的项目，提供健康资源和明确指导
- 可应要求提供合理便利
- 推荐计划：每成功推荐一人最高可获得90美元，推荐人数不限
- 有机会与顶尖研究人员合作
- 获得在人工智能安全前沿开展基于人工数据的人工智能红队测试的经验
