AI 安全专家——英语和芬兰语（远程）
Mercor 正在寻找会说英语和芬兰语的 AI 安全专家，对话式 AI 模型和智能体进行红队测试。 工作包括为前沿 AI 培训项目生成可复现的漏洞数据和攻击案例。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵等方法，对对话式 AI 模型和智能体进行对抗性测试
- 记录失败情况，对漏洞进行分类，并识别系统性风险
- 应用既定的分类体系、基准测试和操作手册，以保持评估的一致性
- 创建可复现的报告、数据集和攻击案例
- 调查涉及偏见、错误信息和有害行为的模型输出
- 扩大评估覆盖范围，识别自动化测试可能遗漏的漏洞
- 与支持前沿 AI 系统训练和改进的项目团队合作
任职要求
- 英语和芬兰语流利或达到母语水平
- 具备 AI 对抗性测试、网络安全或社会技术探测方面的红队测试经验
- 能够以对抗方式测试 AI 系统，并有相关实践证明
- 能够使用框架、分类体系、基准测试和操作手册
- 能够向技术和非技术受众清晰传达风险
- 能够适应不同项目和客户的需求
- 必须以独立承包商身份工作
- 必须能够在不使用属于其他雇主、客户或机构的机密或专有信息的情况下工作
- 不支持 H-1B 和 STEM OPT 候选人
福利待遇
- 完全远程的合同职位
- 工作时间灵活，可自行安排工作时段
- 可选择参与高敏感度项目
- 提供明确的指导和健康资源
- 通过 Stripe 或 Wise 每周付款
- 具有竞争力的薪酬
- 推荐奖励：每成功推荐一人，最高可获得 250 美元
- 可应要求提供合理便利