AI安全專家，英語和荷蘭語（遠端合約）
Mercor正在尋找能使用英語和荷蘭語的AI安全專家，對對話模型和代理程式進行紅隊測試。工作包括建立漏洞資料和攻擊情境，並撰寫可重現的安全報告，以支援前沿AI開發。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方式測試對話式AI模型和代理程式
- 透過標註失敗案例、分類漏洞和辨識系統性風險，建立人工生成的資料
- 使用分類法、基準和操作手冊支援一致的安全測試
- 為客戶製作可重現的報告、資料集和攻擊案例
- 找出自動化測試可能忽略的漏洞
- 擴大評估涵蓋範圍，協助降低生產環境中的意外風險
- 與領先研究人員合作，訓練和改進前沿AI系統
職位要求
- 英語和荷蘭語達到母語流利程度
- 具備AI紅隊測試、網路安全對抗工作或社會技術探測經驗
- 能以對抗方式測試AI系統，並推動其進入失效條件
- 具備將框架或基準應用於結構化測試的經驗
- 能向技術和非技術受眾清楚傳達風險
- 能適應不同專案和客戶的需求
- 具備對抗式機器學習經驗者優先，包括越獄資料集、提示注入、RLHF/DPO攻擊或模型擷取經驗
- 具備網路安全經驗者優先，包括滲透測試、漏洞利用開發或逆向工程經驗
- 具備社會技術風險經驗者優先，包括騷擾或錯誤資訊探測、濫用分析或對話式AI測試經驗
- 具備心理學、表演或寫作方面的創意探測經驗者優先
- 必須能以獨立承包商身分工作
- 不支援H-1B和STEM OPT候選人
福利待遇
- 完全遠端工作
- 工作時間彈性，可自行安排時數
- 根據已交付的服務，透過Stripe或Wise按週付款
- 專案可能根據業務需求和工作表現延長、縮短或提前結束
- 是否參與高敏感度專案由個人自行決定
- 提供內容指南和健康資源
- 可應要求提供合理便利
- 具競爭力的時薪
- 每成功推薦一人，最高可獲得250美元的推薦獎勵，具體受相關限制約束