人工智慧安全紅隊測試員
Mercor正在尋找一名人工智慧安全紅隊測試員，透過對前沿人工智慧系統進行對抗性測試，支援人工智慧訓練專案。 此職位專注於設計具挑戰性的提示詞，並記錄高風險主題領域中的漏洞。
說明
- 建立挑戰前沿人工智慧模型的對抗性提示詞
- 偵測越獄、不安全行為、幻覺和違反政策的情況
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺、政治內容及其他敏感領域的韌性
- 記錄發現的漏洞，並支援安全基準測試和紅隊測試報告
- 與人工智慧研究人員合作，提升模型的對齊性、穩健性和安全性
- 參與訓練和改進人工智慧系統的專案
職位要求
- 具備電腦科學、網路安全、新聞學、傳播學、心理學、生物學、化學、公共政策或相關領域的學士學位或更高學歷
- 至少五年人工智慧安全、人工智慧紅隊測試、信任與安全、網路安全、調查性新聞、生命科學或相關領域的專業經驗
- 具備出色的分析推理、提示詞工程和書面溝通能力
- 具備建立對抗性提示詞或評估前沿人工智慧系統的經驗
- 居住於列出的符合資格地點之一
- 不支援H-1B和STEM OPT候選人
福利待遇
- 完全遠端工作
- 選擇彈性的工作安排，在適合自己的時間完成工作
- 透過Stripe或Wise每週收款
- 與頂尖人工智慧研究人員和安全團隊合作
- 協助塑造前沿人工智慧系統的安全性和對齊性
- 專案期限可能根據業務需求和工作表現變更或提前結束
- 每成功推薦一人，最高可獲得340美元的推薦獎勵，具體受推薦數量限制