AI安全紅隊測試員
Mercor正在招募AI安全紅隊測試員，針對前沿模型探測越獄、幻覺及政策失效問題。 該公司與AI實驗室合作，訓練並改進AI系統。
說明
- 設計對抗性提示詞，測試前沿AI模型。
- 找出越獄、不安全行為、幻覺及政策失效問題。
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺、政治內容及其他敏感領域的穩健性。
- 記錄漏洞，並協助制定安全基準及紅隊測試報告。
- 與AI研究人員合作，強化模型對齊能力、穩健性及安全性。
- 依據專案需求及工作表現，完成獨立承包專案。
職位要求
- 具備電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域的學士以上學位。
- 在AI安全、AI紅隊測試、信任與安全、網路安全、調查新聞、生命科學或相關領域，具備至少五年專業經驗。
- 具備出色的分析推理、提示詞設計及寫作能力。
- 具備設計對抗性提示詞或評估前沿AI系統的經驗。
- 優先條件：具備AI紅隊測試、RLHF、SFT、AI對齊或信任與安全方面的經驗。
- 優先條件：熟悉越獄測試、提示工程或對抗性評估方法。
- 優先條件：在一個或多個敏感領域具備專業知識，包括網路安全、生物安全、政治內容、錯誤資訊或科學安全。
- 必須能以獨立承包商身分工作。
- 不支援H-1B及STEM OPT候選人。
福利待遇
- 完全遠端工作。
- 可自行安排工作時間。
- 已完成服務的款項每週透過Stripe或Wise支付。
- 與頂尖AI研究人員及安全團隊共事。
- 為前沿AI安全及對齊工作作出貢獻。
- 每成功推薦一位候選人，最高可獲340美元推薦獎勵，並受相關限制約束。
- 可依需求提供合理便利措施。