人工智慧安全紅隊測試員 - 美國遠端
Mercor 正在招募遠端人工智慧安全紅隊測試員，挑戰前沿人工智慧模型並找出高風險領域中的漏洞。 此合約職位將支援人工智慧實驗室開發及改進先進系統。
說明
- 建立對抗性提示詞，探測前沿人工智慧模型
- 偵測越獄攻擊、不安全行為、幻覺及政策違規
- 評估模型抵禦錯誤資訊、網路威脅、生物安全風險、詐欺、政治內容及其他敏感主題的能力
- 記錄發現的漏洞，並協助製作安全基準及紅隊報告
- 與人工智慧研究人員合作，強化模型的對齊性、穩健性及安全性
- 參與訓練及改進人工智慧系統的專案
職位要求
- 具備電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域的學士學位或以上學歷
- 至少五年人工智慧安全、人工智慧紅隊測試、信任與安全、網路安全、調查性新聞、生命科學或相關領域的專業經驗
- 具備出色的分析判斷力、提示詞設計能力及書面溝通能力
- 具備建立對抗性提示詞或評估前沿人工智慧系統的經驗
- 具備人工智慧紅隊測試、RLHF、SFT、人工智慧對齊或信任與安全經驗者優先
- 熟悉越獄測試、提示詞工程或對抗性評估方法者優先
- 在網路安全、生物安全、政治內容、錯誤資訊或科學安全等至少一個灰色領域具備專業知識者優先
- 能夠以獨立承包商身分工作
- 不支援 H-1B 及 STEM OPT 候選人
福利待遇
- 完全遠端工作
- 彈性自主安排的工作時間
- 透過 Stripe 或 Wise 每週付款
- 專案可能根據業務需求及工作表現延長、縮短或提前結束
- 具競爭力的報酬
- 與領先的人工智慧研究人員及安全團隊合作
- 可應要求提供合理便利
- 每次成功推薦最高可獲得 340 美元的推薦獎勵，但須遵守適用限制