远程 AI 安全专家——英语和古吉拉特语
对合作伙伴的 AI 模型和智能体进行对抗性测试，识别漏洞、偏见和有害行为。 创建带注释的数据集、攻击案例和可复现报告，改进前沿 AI 评估。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方式测试对话式 AI 模型和智能体
- 通过标注失败案例、分类漏洞和识别系统性风险来创建人工生成数据
- 应用既有的分类体系、基准和操作手册，保持评估的一致性
- 为客户开发可复现的报告、数据集和攻击案例
- 评估涉及偏见、错误信息、有害行为及其他敏感主题的 AI 响应
- 发现自动化测试无法检测的弱点
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
- 通过结构化的对抗性测试改进客户的 AI 系统
任职要求
- 必须具备英语和古吉拉特语的母语级流利程度
- 具备评估语言和内容的良好判断力，包括判断 AI 响应是否准确、完整且恰当，并能解释评估结论
- 高度关注细微错误、不一致之处和遗漏
- 能够始终如一地应用指南和质量标准
- 能够向技术和非技术受众清晰地表达推理过程
- 能够灵活应对不同项目、任务类型和客户
- 合作形式为独立承包商安排
- 申请人不得为 H-1B 或 STEM OPT 候选人
- 具备对抗性机器学习、网络安全、社会技术风险或创造性探测等背景者优先
福利待遇
- 完全远程工作，工作时间由你自行安排
- 通过 Stripe 或 Wise 按周收取已提供服务的报酬
- 可选择是否参与敏感性较高的项目
- 参与涉及敏感内容的项目时，可获得清晰的指导和健康资源
- 具有竞争力的薪酬
- 与顶尖研究人员合作
- 每成功推荐一位候选人，最高可获得 90 美元的推荐奖励，但须遵守适用的限额