AI 安全专家——英语和古吉拉特语（远程合同）
通过对抗性对话测试前沿 AI 模型和智能体的安全漏洞，包括越狱、提示注入、滥用、偏见和操纵。使用英语和古吉拉特语创建带注释的数据集、攻击场景和可复现的安全报告。
描述
- 对话式 AI 模型和智能体进行对抗性测试，检查越狱、提示注入、滥用、偏见利用和多轮操纵
- 通过标注失败案例、分类漏洞和识别系统性风险来创建人工生成数据
- 使用既定的分类体系、基准和操作手册，确保评估一致
- 制定可复现的报告、数据集和攻击场景
- 评估涉及敏感主题的 AI 输出，包括偏见、错误信息和有害行为
- 识别自动化评估方法无法检测的弱点
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
- 通过结构化对抗性测试改进客户的 AI 系统
任职要求
- 英语和古吉拉特语达到母语水平的流利程度
- 在评估语言和内容时具备良好的判断力
- 能够判断 AI 回复是否准确、完整且恰当，并解释评估结果
- 仔细关注细微错误、不一致之处和遗漏
- 持续遵循分类体系、基准、操作手册、指南和质量标准
- 能够向技术和非技术受众清晰表达推理过程
- 能够灵活应对不同项目、任务形式和客户
- 具有对抗性机器学习、网络安全、社会技术风险或创造性 AI 探测方面的背景者优先
- 必须以独立承包商身份工作
- 不支持 H-1B 和 STEM OPT 候选人
福利待遇
- 完全远程的职位
- 工作时间安排灵活，可自行选择工作时段
- 通过 Stripe 或 Wise 每周付款
- 项目可能根据业务需求和工作表现延长、缩短或提前结束
- 可选择参与涉及较高敏感度内容的项目
- 为敏感内容任务提供明确的指导和健康资源
- 可应要求提供合理便利
- 有机会积累以人工数据驱动的 AI 红队测试经验
- 与领先的研究人员合作
- 每次成功推荐最高可获 90 美元推荐奖励，受适用上限限制