人工智能安全红队测试员
Mercor正在寻找一名人工智能安全红队测试员，通过对前沿人工智能系统进行对抗性测试，支持人工智能训练项目。 该职位专注于设计具有挑战性的提示词，并记录高风险主题领域中的漏洞。
描述
- 创建挑战前沿人工智能模型的对抗性提示词
- 检测越狱、非安全行为、幻觉和违反政策的情况
- 评估模型在错误信息、网络安全、生物安全、欺诈、政治内容及其他敏感领域的韧性
- 记录发现的漏洞，并支持安全基准测试和红队测试报告
- 与人工智能研究人员合作，提升模型的对齐性、稳健性和安全性
- 参与训练和改进人工智能系统的项目
任职要求
- 计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士学位或更高学历
- 至少五年人工智能安全、人工智能红队测试、信任与安全、网络安全、调查性新闻、生命科学或相关领域的专业经验
- 具备较强的分析推理、提示词工程和书面沟通能力
- 有创建对抗性提示词或评估前沿人工智能系统的经历
- 居住在列出的符合条件的地点之一
- 不支持H-1B和STEM OPT候选人
福利待遇
- 完全远程工作
- 选择灵活的工作安排，在适合自己的时间完成工作
- 通过Stripe或Wise每周收款
- 与领先的人工智能研究人员和安全团队合作
- 帮助塑造前沿人工智能系统的安全性和对齐性
- 项目期限可能根据业务需求和工作表现发生变化或提前结束
- 每成功推荐一人，最高可获得340美元的推荐奖励，具体受推荐数量限制