人工智慧安全紅隊測試員——美國遠端合約職位
Mercor 正在尋找一名合約制人工智慧安全紅隊測試員，負責挑戰前沿人工智慧模型並發現漏洞。 此職位聚焦高風險領域，支援開發更安全、更可靠的人工智慧系統。
說明
- 建立能嚴格挑戰前沿人工智慧模型的對抗性提示詞
- 偵測越獄攻擊、不安全行為、幻覺，以及未遵循安全政策的情況
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺、政治內容及其他敏感領域的韌性
- 記錄發現的弱點，並支援安全基準測試和紅隊測試報告
- 與人工智慧研究人員合作，推動模型對齊、穩健性和安全性發展
- 協助保護和改善新興的前沿人工智慧系統
- 塑造人工智慧模型在真實情境中處理複雜安全場景的方式
職位要求
- 擁有電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域的學士學位或更高學歷
- 至少五年人工智慧安全、人工智慧紅隊測試、信任與安全、網路安全、調查性新聞、生命科學或相關領域的專業經驗
- 具備出色的分析判斷力、提示詞開發能力和書面溝通能力
- 擁有建立對抗性提示詞或評估前沿人工智慧系統的實務經驗
- 優先考慮：具備人工智慧紅隊測試、RLHF、SFT、人工智慧對齊或信任與安全背景
- 優先考慮：熟悉越獄評估、提示詞工程或對抗性評估方法
- 優先考慮：在網路安全、生物安全、政治內容、錯誤資訊或科學安全等複雜領域具備專業知識
- 能夠以獨立承包商身分工作
- 不支援 H-1B 和 STEM OPT 候選人
福利待遇
- 完全遠端工作
- 自行安排工作時間，並以彈性的時程完成任務
- 透過 Stripe 或 Wise 每週收款
- 專案期限可能依業務需求和工作表現變更或提前結束
- 具競爭力的薪酬
- 與領先的人工智慧研究人員和安全團隊共事
- 可依要求提供合理便利
- 推薦計畫：每次成功推薦最高可獲得 340 美元，受推薦人數限制約束