AI安全专家（英语和古吉拉特语）—远程合同
为Mercor开展对话式AI模型和智能体的红队评估。Mercor是专注于训练前沿系统的AI实验室合作伙伴。创建漏洞数据、攻击场景和可复现的安全报告。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵测试对话式AI模型和智能体
- 通过标注失败案例、分类漏洞和识别系统性风险，创建人工标注数据
- 使用既定的分类体系、基准和操作手册，确保评估一致
- 开发可复现的报告、数据集和攻击场景
- 评估涉及偏见、错误信息、有害行为及其他敏感主题的AI响应
- 识别自动化测试可能遗漏的弱点
- 扩大评估覆盖范围，帮助限制产品环境中的意外问题
- 通过清晰且可复现的评估成果改进客户的AI系统
任职要求
- 母语或流利的英语和古吉拉特语能力
- 评估语言和内容时具备良好的判断力
- 能够判断AI响应是否准确、完整且恰当，并解释评估结论
- 仔细关注细微错误、不一致之处和遗漏
- 始终遵守指南和质量要求
- 能够向技术和非技术受众清晰说明推理过程
- 能够灵活应对不同项目、任务形式和客户
- 具备对抗性机器学习、网络安全、社会技术风险或创造性探测方面的专业经验者优先
- 能够以独立承包商身份工作
- 不支持H-1B和STEM OPT候选人
福利待遇
- 完全远程工作
- 自行选择工作时间
- 通过Stripe或Wise按周收款
- 具有竞争力的时薪报酬
- 可选择参与涉及较高敏感度内容的项目
- 可获得敏感内容工作方面的清晰指导和健康资源
- 可应要求提供合理便利
- 每成功推荐一人，最高可获得90美元的推荐奖励