AI 安全紅隊測試員——遠端合約（美國）
Mercor 正在尋找一名 AI 安全紅隊測試員，透過對抗性測試發掘前沿 AI 模型中的漏洞。 此職位需要設計提示詞，並與 AI 安全研究人員合作評估模型的高風險行為。
說明
- 建立用於挑戰前沿 AI 模型的對抗性提示詞
- 偵測越獄攻擊、不安全行為、幻覺和政策違規
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺、政治內容及其他敏感領域的穩健性
- 記錄漏洞，並支援安全基準測試和紅隊測試報告
- 與 AI 研究人員合作，提升模型的對齊性、穩健性和安全性
- 參與訓練和改進 AI 系統的專案
職位要求
- 電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域學士以上學位
- 至少五年 AI 安全、AI 紅隊測試、信任與安全、網路安全、調查新聞、生物生命科學或相關領域的專業經驗
- 具備出色的分析推理、提示詞設計和書面溝通能力
- 具備建立對抗性提示詞或評估前沿 AI 系統的經驗
- 具備 AI 紅隊測試、RLHF、SFT、AI 對齊或信任與安全經驗者優先
- 熟悉越獄測試、提示詞工程或對抗性評估方法者優先
- 在網路安全、生物安全、政治內容、錯誤資訊或科學安全等一個或多個灰色領域具備專業知識者優先
- 能夠以獨立承包商身分工作
- 不支援 H-1B 和 STEM OPT 候選人
福利待遇
- 完全遠端工作
- 彈性安排工作時間
- 透過 Stripe 或 Wise 按週付款
- 專案可能因應業務需求和工作表現而延長、縮短或提前結束
- 與頂尖 AI 研究人員和安全團隊合作進行對抗性測試
- 有機會影響 AI 系統處理複雜現實安全挑戰的方式
- 可應要求提供合理便利
- 每次成功推薦最高可獲 340 美元推薦獎勵，受推薦次數限制約束