AI安全红队专家
Mercor 正在招聘 AI 安全红队专家，针对前沿 AI 模型在高风险领域中的弱点开展探测。\n这项工作将支持 AI 实验室训练和改进先进系统。
描述
- 设计对抗性提示词，测试前沿 AI 模型。
- 发现越狱、非安全行为、幻觉和政策失效。
- 评估模型在错误信息、网络安全、生物安全、欺诈、政治内容及其他敏感领域的稳健性。
- 记录漏洞，并协助制作安全基准和红队测试报告。
- 与 AI 研究人员合作，增强模型对齐、稳健性和安全性。
- 参与训练和改进 AI 系统的项目。
任职要求
- 计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士或更高学位。
- 至少五年 AI 安全、AI 红队测试、信任与安全、网络安全、调查新闻、生物生命科学或相关领域的专业经验。
- 具备出色的分析推理、提示词设计和书面沟通能力。
- 有创建对抗性提示词或评估前沿 AI 系统的经验。
- 必须居住在以下符合条件的国家或地区之一：阿尔巴尼亚、奥地利、比利时、保加利亚、波斯尼亚和黑塞哥维那、瑞士、捷克、德国、丹麦、西班牙、爱沙尼亚、芬兰、法国、英国、希腊、克罗地亚、匈牙利、爱尔兰、冰岛、意大利、列支敦士登、立陶宛、卢森堡、拉脱维亚、摩纳哥、摩尔多瓦、北马其顿、马耳他、荷兰、挪威、波兰、葡萄牙、罗马尼亚、圣马力诺、塞尔维亚、斯洛伐克、斯洛文尼亚、瑞典、美国或科索沃。
- 目前无法为 H-1B 和 STEM OPT 候选人提供支持。
福利待遇
- 全远程工作，时间安排灵活。
- 通过 Stripe 或 Wise 按周支付已提供服务的报酬。
- 项目时长可能根据项目需求和工作表现延长、缩短或提前结束。
- 具有竞争力的薪酬。
- 有机会与领先的 AI 研究人员和安全团队合作。
- 可根据请求提供合理便利。
- 推荐计划：每成功推荐一人，最高可获 340 美元，具体受相关限制约束。