远程人工智能安全专家（英语和卡纳达语）
使用英语和卡纳达语输入，对 Mercor 的前沿人工智能模型进行对抗性测试，以识别漏洞。 创建可复现的安全数据、攻击案例和报告，供人工智能客户使用。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方式测试对话式人工智能模型和智能体
- 通过标注失败案例、分类漏洞和识别系统性风险，创建人工生成的数据
- 使用既定的分类体系、基准和操作手册，保持评估的一致性
- 开发客户可使用的可复现报告、数据集和攻击案例
- 评估人工智能在偏见、错误信息和有害行为等敏感主题上的输出
- 发现自动化评估可能忽略的弱点
- 扩大评估覆盖范围，帮助预防生产环境中的意外问题
- 参与为 Mercor 的人工智能实验室和企业客户训练及改进人工智能系统的项目
任职要求
- 英语和卡纳达语均达到母语或流利水平
- 在评估语言和内容时具备良好的判断力，包括人工智能回复的准确性、完整性和适当性
- 能够向技术和非技术受众清晰表达推理过程
- 认真关注细微错误、不一致之处和遗漏
- 能够持续应用分类体系、基准、操作手册、指南和质量标准
- 能够灵活应对不同项目、任务形式和客户
- 必须以独立承包商身份工作
- 申请人不得正在申请 H-1B 或 STEM OPT 身份
- 优先考虑具备对抗性机器学习经验者，例如越狱数据集、提示注入、RLHF 或 DPO 攻击，或模型提取方面的经验
- 优先考虑具备网络安全背景者，例如渗透测试、漏洞利用开发或逆向工程
- 优先考虑具备社会技术风险经验者，例如骚扰或虚假信息探测、滥用分析或对话式人工智能测试
- 优先考虑具备心理学、表演或写作经验，能够支持非常规的对抗性思维
福利待遇
- 完全远程的合同工作，并提供排班灵活性
- 根据已交付的服务，通过 Stripe 或 Wise 每周付款
- 获得以人工数据驱动的人工智能红队测试经验，专注于前沿人工智能安全
- 为打造更稳健、更安全、更值得信赖的人工智能系统作出有意义的贡献
- 为涉及较高敏感度内容的项目提供健康资源和明确指导
- 可根据请求提供合理便利
- 每次成功推荐最高可获 90 美元推荐奖励，但须遵守适用限制