AI 模型安全紅隊測試員
透過對抗性測試，探查 Mercor 前沿 AI 模型的安全弱點。 找出漏洞並協助提升模型對齊能力。
說明
- 設計對抗性提示詞，測試前沿 AI 模型。
- 找出越獄、安全風險行為、幻覺和違反政策的情況。
- 測試模型應對錯誤資訊、網路安全、生物安全、詐欺、政治內容及其他敏感領域的韌性。
- 記錄漏洞，並協助制定安全基準和紅隊測試報告。
- 與 AI 研究人員合作，強化模型對齊能力、韌性和安全性。
- 協助保護並改進下一代前沿 AI 模型。
- 參與訓練和改進 AI 系統的專案。
職位要求
- 計算機科學、網路安全、新聞、傳播、心理學、生物學、化學、公共政策或相關領域的學士或更高學位
- 至少五年 AI 安全、AI 紅隊測試、信任與安全、網路安全、調查新聞、生命科學或相關領域的專業經驗
- 具備出色的分析推理、提示詞設計和寫作能力
- 有設計對抗性提示詞或評估前沿 AI 系統的經驗
- 有 AI 紅隊測試、RLHF、監督式微調、AI 對齊或信任與安全經驗者優先
- 熟悉越獄測試、提示工程或對抗性評估方法者優先
- 在至少一個敏感領域具備專業知識者優先，例如網路安全、生物安全、政治內容、錯誤資訊或科學安全
- 不得需要 H-1B 或 STEM OPT 贊助；Mercor 無法為需要這兩類贊助的候選人提供支援
福利待遇
- 完全遠端工作，時間安排彈性
- 透過 Stripe 或 Wise 每週支付已提供服務的報酬
- 專案時長可能因專案需求和工作表現而調整或提前結束
- 與領先的 AI 研究人員和安全團隊共事
- 協助塑造 AI 系統應對複雜現實安全挑戰的方式
- 可依需求提供合理便利
- 每成功推薦一位候選人，最高可獲 340 美元推薦獎勵，並受相關限制約束