AI安全紅隊測試員
透過探測高風險領域中的漏洞，對Mercor合作實驗室的前沿AI系統進行壓力測試。 將發現納入安全基準，並協助研究人員提升模型的穩健性與對齊能力。
說明
- 建立對抗性提示詞，測試前沿AI模型。
- 找出越獄、非安全行為、幻覺及政策失效問題。
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺及政治內容等敏感領域的穩健性。
- 記錄漏洞，並為安全基準及紅隊報告提供內容。
- 與AI研究人員合作，強化模型對齊、穩健性及安全性。
- 支援訓練及改進AI系統的專案。
- 自行安排工作時間；專案期限可能因業務需求及工作表現而調整或提前結束。
職位要求
- 具備電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域的學士以上學位。
- 至少五年AI安全、AI紅隊測試、信任與安全、網路安全、調查新聞、生命科學或相關領域的專業經驗。
- 具備出色的分析推理、提示詞設計及寫作能力。
- 具備建立對抗性提示詞或評估前沿AI系統的經驗。
- 優先條件：具備AI紅隊測試、RLHF、SFT、AI對齊或信任與安全方面的經驗。
- 優先條件：熟悉越獄測試、提示詞工程或對抗性評估方法。
- 優先條件：在一個或多個敏感領域具備專業知識，包括網路安全、生物安全、政治內容、錯誤資訊或科學安全。
- 合作形式為獨立承包商。
- 必須能在不獲得H-1B或STEM OPT支援的情況下工作。
福利待遇
- 完全遠端工作，時間安排彈性。
- 服務費用透過Stripe或Wise按週支付。
- 與頂尖AI研究人員及安全團隊共事。
- 協助塑造AI系統因應複雜現實安全挑戰的方式。
- 具競爭力的薪酬。
- 可依需求提供合理便利。
- 每成功推薦一人，最高可獲得340美元推薦獎金，並受相關限制約束。