Mercor
Mercor
51 – 200 员工
Mercor 现有的公司资料未包含足够的已验证信息,无法准确介绍其产品、服务、客户、所属行业或招聘重点。在描述该企业及其职位机会之前,还需要更多来源材料。

AI安全红队测试员

Mercor正在招聘AI安全红队测试员,通过对抗性提示探测先进AI系统。 该职位负责记录风险,并与研究人员合作提升模型安全性与对齐水平。

描述

  • 设计对抗性提示,测试先进AI模型
  • 发现越狱漏洞、不安全输出、幻觉和政策漏洞
  • 评估模型在虚假信息、网络安全、生物安全、欺诈和政治内容等敏感领域的稳健性
  • 记录漏洞,并协助制作安全基准和红队测试报告
  • 与AI研究人员合作,增强模型对齐、稳健性和安全性
  • 参与训练和改进AI系统的项目

任职要求

  • 拥有计算机科学、网络安全、新闻学、传播学、心理学、生物学、化学、公共政策或相关领域的学士及以上学位
  • 至少五年AI安全、AI红队测试、信任与安全、网络安全、调查新闻、生命科学或相关领域的专业经验
  • 具备出色的分析推理、提示设计和写作能力
  • 有创建对抗性提示或评估先进AI系统的经验
  • 优先条件:具备AI红队测试、RLHF、监督微调、AI对齐或信任与安全方面的背景
  • 优先条件:熟悉越狱测试、提示工程或对抗性评估方法
  • 优先条件:在网络安全、生物安全、政治内容、虚假信息或科学安全等复杂领域具备专长
  • 必须能够以独立承包商身份工作
  • 不支持H-1B和STEM OPT候选人

福利待遇

  • 完全远程工作,时间安排灵活
  • 通过Stripe或Wise按周支付已提供服务的费用
  • 项目期限可能根据需求和表现延长、缩短或提前结束
  • 具有竞争力的报酬
  • 有机会与顶尖研究人员和安全团队合作
  • 可按需提供合理便利
  • 每成功推荐一人可获得最高340美元的推荐奖励,但须遵守相关限制

相关职位

Toppan Merrill

微软 Dynamics 365 CRM 平台经理

Toppan Merrill

负责 Toppan Merrill 的 Microsoft Dynamics 365 CRM 愿景、路线图与优化工作。 改进支持金融、法律、医疗保健和资本市场监管披露与沟通的技术平台。

打开
InMarket

InMarket 客户成功高级副总裁

InMarket

负责 InMarket 消费者洞察与实时营销平台在激活、效果衡量和受众业务中的售后客户成功。统筹客户留存、业务拓展、服务运营与团队发展。

打开