AI安全红队专家（英语和泰卢固语）- 远程合同
测试对话式AI模型是否存在越狱、提示注入、滥用、偏见及其他安全漏洞。 记录可复现的漏洞和评测数据，为AI研究客户提供支持。
描述
- 对话式AI模型和智能体进行对抗性测试，发现越狱、提示注入、滥用、偏见利用及多轮操纵问题
- 标注测试失败，分类漏洞并识别系统性风险
- 应用既有的分类法、基准和操作手册，确保评测一致性
- 为客户创建可复现的报告、数据集和攻击场景
- 评估AI对敏感主题的回应，包括偏见、错误信息和有害行为
- 发现自动化评测方法无法检测的弱点
- 扩大评测覆盖范围，帮助预防生产环境中的意外问题
- 通过可重复的对抗性测试改进客户的AI系统
任职要求
- 英语和泰卢固语均达到母语流利程度
- 在评估语言和内容的准确性、完整性及适当性时具备良好的判断力
- 能够向技术和非技术受众清晰表达推理过程
- 细致关注细微错误、不一致之处和遗漏
- 能够持续遵循指南和质量标准
- 能够灵活应对不同项目、任务形式和客户
- 以独立承包商身份参与工作
- 能够在不使用任何雇主、客户或机构的机密或专有信息的情况下工作
- 不支持H-1B和STEM OPT候选人
福利待遇
- 完全远程工作，可自行安排工作时间
- 通过Stripe或Wise每周收取已交付服务的报酬
- 可选择参与涉及更敏感主题的项目
- 提供适用于敏感内容工作的指南和身心健康资源
- 积累基于人工数据的AI红队测试专业经验
- 有机会帮助打造更安全、更稳健、更值得信赖的AI系统
- 有机会与领先研究人员合作
- 每次成功推荐最高可获得90美元推荐费，具体受适用上限限制