人工智能安全红队专家——英语和泰米尔语，远程合同
通过对抗性探测和结构化红队分析，测试对话式人工智能模型和智能体的漏洞。 为 Mercor 的人工智能实验室客户创建攻击案例、漏洞数据和可复现报告。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方式探测对话式人工智能模型和智能体
- 通过记录失败、分类漏洞和识别系统性风险，创建人工标注数据
- 使用既定的分类体系、基准和操作手册，保持评估的一致性
- 为客户开发可复现的报告、数据集和攻击案例
- 评估涉及偏见、错误信息、有害行为及其他敏感主题的人工智能输出
- 识别自动化测试可能忽略的弱点
- 扩大评估覆盖范围，帮助预防生产环境中的意外问题
- 改进客户的人工智能系统，助力打造更安全、更可靠的模型
任职要求
- 英语和泰米尔语均达到母语水平
- 在评估语言和内容时具备良好的判断力
- 能够判断人工智能回答是否准确、完整且恰当，并解释评估结果
- 仔细关注细微错误、不一致之处和遗漏
- 能够始终如一地应用指南和质量标准
- 能够向技术和非技术受众清晰说明推理过程
- 能够灵活适应不同项目、任务形式和客户
- 优先考虑：具备对抗性机器学习经验，包括越狱数据集、提示注入、RLHF 或 DPO 攻击，或模型提取
- 优先考虑：具备网络安全背景，包括渗透测试、漏洞开发或逆向工程
- 优先考虑：具备社会技术风险经验，例如骚扰和虚假信息探测、滥用分析或对话式人工智能测试
- 优先考虑：具备心理学、表演或写作方面的创造性探测经验
- 必须以独立承包商身份工作
- 不支持 H-1B 和 STEM OPT 候选人
福利待遇
- 完全远程工作
- 工作时间灵活，可自行安排工时
- 通过 Stripe 或 Wise 每周付款
- 具有竞争力的时薪报酬
- 获得以人类数据驱动的人工智能红队经验，专注于前沿安全
- 直接助力打造更稳健、安全且值得信赖的人工智能系统
- 可选择参与敏感度更高的项目
- 为涉及敏感内容的项目提供指南和健康资源
- 可应要求提供合理便利
- 推荐计划：每次成功推荐最高可获 90 美元，但须遵守推荐数量限制