人工智能安全专家（英语和泰卢固语）——远程合同工作
为 Mercor 对对话式人工智能模型和智能体进行红队评估，重点关注英语和泰卢固语安全性。 创建漏洞数据、攻击案例和可复现报告，支持更安全的人工智能开发。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵测试对话式人工智能模型和智能体
- 标注失败情况，对漏洞进行分类并识别系统性风险
- 使用分类体系、基准测试和操作手册，保持评估的一致性
- 为客户创建可复现的报告、数据集和攻击案例
- 评估涉及偏见、错误信息、有害行为及其他敏感主题的人工智能输出
- 参与训练和改进人工智能系统的项目
- 识别自动化测试无法发现的漏洞
- 扩大评估覆盖范围，帮助减少生产环境中的意外问题
任职要求
- 英语和泰卢固语达到母语或流利水平
- 在评估人工智能回答是否准确、完整且恰当时具备良好的判断力
- 能够向技术和非技术受众清晰表达推理过程
- 细致关注细微错误、不一致之处和遗漏
- 始终遵守指南和质量标准
- 能够灵活适应不同项目、任务形式和客户
- 愿意以独立承包商身份工作
- 不得是 H-1B 或 STEM OPT 候选人；相关专业可能包括对抗性机器学习、越狱数据集、提示注入、RLHF/DPO 攻击、模型提取、渗透测试、漏洞开发、逆向工程、骚扰或虚假信息探测、滥用分析、对话式人工智能测试、心理学、表演或写作。
- 福利
福利待遇
- 完全远程工作，并自行安排工作时间
- 通过 Stripe 或 Wise 按周收取已提供服务的报酬
- 积累以人类数据驱动、专注于前沿安全的人工智能红队经验
- 帮助打造更稳健、安全且值得信赖的人工智能系统
- 可选择是否参与高敏感度项目
- 可获得高敏感度项目的清晰指导和健康支持资源
- 可申请合理便利
- 每次成功推荐最高可获得 90 美元，推荐次数没有明确上限