AI安全紅隊測試員
為Mercor合作實驗室對前沿AI系統進行紅隊測試，找出漏洞並評估模型的高風險行為。 設計對抗式提示，並協助記錄安全評估結果。
說明
- 設計對抗式提示，在壓力情境下測試前沿AI模型。
- 找出越獄攻擊、不安全輸出、幻覺，以及未能遵循政策的情況。
- 評估模型在錯誤資訊、網路安全、生物安全、詐欺、政治內容及其他敏感領域的韌性。
- 記錄漏洞，並協助準備安全基準和紅隊報告。
- 與AI研究人員合作，強化模型對齊、韌性和安全性。
- 為Mercor合作的AI實驗室及訓練和改進AI系統的企業完成專案。
職位要求
- 具備電腦科學、網路安全、新聞、傳播、心理學、生物學、化學、公共政策或相關領域的學士或更高學位。
- 至少五年AI安全、AI紅隊測試、信任與安全、網路安全、調查新聞、生物科學或相關領域的專業經驗。
- 具備優秀的分析推理、提示設計和書面溝通能力。
- 具備建立對抗式提示或評估前沿AI系統的經驗。
- 具備AI紅隊測試、RLHF、監督式微調、AI對齊或信任與安全經驗者優先。
- 熟悉越獄測試、提示工程或對抗式評估方法者優先。
- 在網路安全、生物安全、政治內容、錯誤資訊或科學安全等細緻領域具備專業知識者優先。
- 必須具備在所列地點之一工作的資格。
- Mercor目前無法支援H-1B或STEM OPT候選人。
福利待遇
- 完全遠端工作。
- 自行安排彈性工時，並依自己的時間完成工作。
- 透過Stripe或Wise每週收款。
- 專案可能依專案需求和工作表現延長、縮短或提前結束。
- 具競爭力的薪酬。
- 與領先的AI研究人員和安全團隊合作。
- 為前沿AI安全和模型開發作出貢獻。
- 每成功推薦一人，最高可獲得340美元，並受推薦名額限制。
- 可依要求提供合理便利措施。
相關職缺
Alkami 技術工程經理（美國遠端）
Alkami Technology.NETAWSAzureEntity FrameworkGoogle Cloud PlatformGrafanaJavaJavaScriptKubernetesLinuxMS SQL ServerPostgresSQL微服務雲端
帶領軟體工程師，並親自參與 Alkami 數位銀行平台的交付工作。 規劃可擴充架構、營運實務與跨職能協作。
開啟
