AI 安全紅隊測試員
Mercor 正在招募 AI 安全紅隊測試員，透過對抗式提示詞探測前沿模型。工作重點是找出弱點，並協助 AI 實驗室合作夥伴提升模型對齊、穩健性與安全性。
說明
- 撰寫對抗式提示詞，探測前沿 AI 模型。
- 找出越獄漏洞、不安全行為、幻覺及政策失效。
- 評估模型在錯假資訊、網路安全、生物安全、詐欺及政治內容等敏感領域的穩健性。
- 記錄漏洞，並協助準備安全基準測試與紅隊測試報告。
- 與 AI 研究人員合作，強化模型對齊、穩健性與安全性。
- 參與訓練及改進 AI 系統的專案。
職位要求
- 具備電腦科學、網路安全、新聞、傳播、心理學、生物學、化學、公共政策或相關領域的學士以上學位。
- 至少五年 AI 安全、AI 紅隊測試、信任與安全、網路安全、調查新聞、生物科學或相關領域的專業經驗。
- 具備出色的分析推理、提示詞設計及書面溝通能力。
- 具備撰寫對抗式提示詞或評估前沿 AI 系統的經驗。
- 具備 AI 紅隊測試、RLHF、SFT、AI 對齊或信任與安全經驗者優先。
- 熟悉越獄測試、提示工程或對抗式評估方法者優先。
- 在網路安全、生物安全、政治內容、錯假資訊或科學安全等需要細緻判斷的領域具備專長者優先。
- 能以獨立承包商身分工作。
- 不支援 H-1B 和 STEM OPT 候選人。
福利待遇
- 可在美國境內任何地點遠端工作。
- 自行安排工作時間。
- 透過 Stripe 或 Wise 每週收款。
- 專案可能依據專案需求和工作表現延長、縮短或提前結束。
- 與頂尖 AI 研究人員及安全團隊合作。
- 協助塑造前沿 AI 系統的安全性。
- 可依需求提供合理便利。
- 每成功推薦一位人選，最高可獲得 340 美元推薦獎金；設有相關限制。
