遠端 AI 安全專家（英語和奧迪亞語）– 合約制
Mercor 正在尋找一名精通英語和奧迪亞語的 AI 安全專家，為前沿模型訓練對話式 AI 模型進行紅隊測試。工作包括建立漏洞標註、攻擊案例、資料集和可重現的安全報告。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方法測試對話式 AI 模型和代理程式。
- 記錄故障、分類漏洞並識別系統性風險。
- 使用既定的分類體系、基準和操作手冊，確保評估保持一致。
- 建立可重現的安全報告、資料集和攻擊案例。
- 調查模型輸出中的偏見、錯誤資訊和有害行為。
- 支援 Mercor AI 實驗室及其企業客戶對前沿 AI 系統的訓練和改進。
職位要求
- 英語和奧迪亞語達到母語級流利程度。
- 評估語言和內容時具備良好的判斷力。
- 能夠判斷 AI 回應是否準確、完整且適當，並解釋判斷依據。
- 高度注意細微錯誤、不一致之處和遺漏。
- 能夠可靠地遵循指南和品質標準。
- 能夠向技術和非技術受眾清楚地闡述推理過程。
- 能夠靈活參與不同專案、任務形式和客戶的工作。
- 願意以獨立承包商身分參與工作。
- 申請人不得為 H-1B 或 STEM OPT 候選人。
- 具備對抗性機器學習、網路安全、社會技術風險或創意探測方面的經驗或專長者優先。
福利待遇
- 完全遠端工作。
- 彈性安排工作時間。
- 可選擇參與高敏感度專案。
- 為涉及敏感內容的專案提供指南和健康資源。
- 透過 Stripe 或 Wise 每週付款。
- 具競爭力的薪酬。
- 有機會與頂尖研究人員合作。
- 每成功推薦一人，最高可獲得 90 美元的推薦獎勵。