AI 安全紅隊專家
Mercor 正在招募 AI 安全紅隊專家，探查前沿 AI 模型在高風險領域中的弱點。\n這項工作將協助 AI 實驗室訓練並改進先進系統。
說明
- 設計對抗性提示詞，測試前沿 AI 模型。
- 找出越獄、非安全行為、幻覺及政策失效。
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺、政治內容及其他敏感領域的穩健性。
- 記錄弱點，並協助製作安全基準與紅隊測試報告。
- 與 AI 研究人員合作，強化模型對齊、穩健性與安全性。
- 參與訓練及改進 AI 系統的專案。
職位要求
- 具備電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域的學士或更高學位。
- 至少五年 AI 安全、AI 紅隊測試、信任與安全、網路安全、調查報導、生命科學或相關領域的專業經驗。
- 具備出色的分析推理、提示詞設計及書面溝通能力。
- 具備建立對抗性提示詞或評估前沿 AI 系統的經驗。
- 必須居住於以下符合資格的國家或地區之一：阿爾巴尼亞、奧地利、比利時、保加利亞、波士尼亞與赫塞哥維納、瑞士、捷克、德國、丹麥、西班牙、愛沙尼亞、芬蘭、法國、英國、希臘、克羅埃西亞、匈牙利、愛爾蘭、冰島、義大利、列支敦斯登、立陶宛、盧森堡、拉脫維亞、摩納哥、摩爾多瓦、北馬其頓、馬爾他、荷蘭、挪威、波蘭、葡萄牙、羅馬尼亞、聖馬利諾、塞爾維亞、斯洛伐克、斯洛維尼亞、瑞典、美國或科索沃。
- 目前無法為 H-1B 及 STEM OPT 候選人提供支援。
福利待遇
- 全遠端工作，時間安排彈性。
- 透過 Stripe 或 Wise 每週支付已提供服務的報酬。
- 專案期限可能依專案需求與工作表現延長、縮短或提前結束。
- 具競爭力的薪酬。
- 有機會與頂尖 AI 研究人員及安全團隊合作。
- 可依要求提供合理便利措施。
- 推薦計畫：每成功推薦一人，最高可獲 340 美元，須遵守相關限制。