人工智能安全红队测试员——美国远程合同职位
Mercor 正在寻找一名合同制人工智能安全红队测试员，负责挑战前沿人工智能模型并发现漏洞。 该职位聚焦高风险领域，支持开发更安全、更可靠的人工智能系统。
描述
- 创建能够严格挑战前沿人工智能模型的对抗性提示词
- 发现越狱攻击、不安全行为、幻觉以及未遵循安全政策的情况
- 评估模型在错误信息、网络安全、生物安全、欺诈、政治内容及其他敏感领域的韧性
- 记录发现的弱点，并支持安全基准测试和红队测试报告
- 与人工智能研究人员合作，推动模型对齐、稳健性和安全性发展
- 帮助保护和改进新兴的前沿人工智能系统
- 塑造人工智能模型在现实环境中处理复杂安全场景的方式
任职要求
- 拥有计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士学位或更高学历
- 至少五年人工智能安全、人工智能红队测试、信任与安全、网络安全、调查性新闻、生物生命科学或相关领域的专业经验
- 具备出色的分析判断力、提示词开发能力和书面沟通能力
- 拥有创建对抗性提示词或评估前沿人工智能系统的实践经验
- 优先考虑：具备人工智能红队测试、RLHF、SFT、人工智能对齐或信任与安全背景
- 优先考虑：熟悉越狱评估、提示词工程或对抗性评估方法
- 优先考虑：在网络安全、生物安全、政治内容、错误信息或科学安全等复杂领域具备专业知识
- 能够以独立承包商身份工作
- 不支持 H-1B 和 STEM OPT 候选人
福利待遇
- 完全远程工作
- 自行安排工作时间，并以灵活的日程完成任务
- 通过 Stripe 或 Wise 每周收款
- 项目期限可能根据业务需求和工作表现发生变化或提前结束
- 具有竞争力的薪酬
- 与领先的人工智能研究人员和安全团队共事
- 可根据要求提供合理便利
- 推荐计划：每次成功推荐最高可获得 340 美元，受推荐人数限制约束