AI 安全紅隊測試員
Mercor 正在招募 AI 安全紅隊測試員，透過對抗式提示探測先進 AI 系統。 此職務負責記錄風險，並與研究人員合作提升模型安全性與對齊程度。
說明
- 設計對抗式提示，測試先進 AI 模型
- 找出越獄漏洞、不安全輸出、幻覺及政策缺口
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺及政治內容等敏感領域的韌性
- 記錄漏洞，並協助製作安全基準及紅隊測試報告
- 與 AI 研究人員合作，提升模型對齊程度、韌性及安全性
- 參與訓練和改進 AI 系統的專案
職位要求
- 具備電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域的學士或更高學位
- 至少五年 AI 安全、AI 紅隊測試、信任與安全、網路安全、調查新聞、生命科學或相關領域的專業經驗
- 具備出色的分析推理、提示設計及寫作能力
- 有建立對抗式提示或評估先進 AI 系統的經驗
- 優先條件：具備 AI 紅隊測試、RLHF、監督式微調、AI 對齊或信任與安全方面的背景
- 優先條件：熟悉越獄測試、提示工程或對抗式評估方法
- 優先條件：在網路安全、生物安全、政治內容、錯誤資訊或科學安全等細緻領域具備專長
- 必須能以獨立承包商身分工作
- 不支援 H-1B 和 STEM OPT 候選人
福利待遇
- 完全遠端工作，時間安排彈性
- 透過 Stripe 或 Wise 按週支付已提供服務的費用
- 專案期限可能依需求和工作表現延長、縮短或提前結束
- 具競爭力的報酬
- 有機會與頂尖研究人員及安全團隊合作
- 可依要求提供合理便利措施
- 每成功推薦一人可獲得最高 340 美元的推薦獎勵，並受相關限制約束
