AI 安全專家——英語和馬拉地語（遠端）
Mercor 正在尋找能使用英語和馬拉地語的 AI 安全專家，對話模型和代理程式進行紅隊測試。工作包括識別漏洞、評估敏感輸出，並為 AI 實驗室和客戶建立可重現的安全資料。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方法，對對話式 AI 模型和代理程式進行紅隊測試
- 透過標註失敗案例、分類漏洞和識別系統性風險，建立人工評估資料
- 使用既定的分類體系、基準和操作手冊，支援一致的評估
- 為客戶開發可重現的報告、資料集和攻擊案例
- 評估與偏見、錯誤資訊、有害行為及其他敏感主題相關的 AI 輸出
- 識別自動化測試可能遺漏的漏洞
- 擴大評估涵蓋範圍，協助減少生產環境中的意外問題
- 支援客戶提升其 AI 系統的安全性、穩健性和可信度
職位要求
- 英語和馬拉地語均達到母語流利程度
- 評估語言和內容時具備出色的判斷力，包括判斷 AI 回覆是否準確、完整且恰當
- 能夠發現細微錯誤、不一致之處和遺漏
- 能夠始終如一地遵循指南和品質標準
- 能夠向技術和非技術受眾清楚說明推理過程
- 能夠適應不同專案、任務類型和客戶
- 能夠以獨立承包商身分工作
- 不得需要 H-1B 或 STEM OPT 支援
- 優先考慮：具備對抗性機器學習經驗，包括越獄資料集、提示注入、RLHF 或 DPO 攻擊，或模型擷取方面的經驗
- 優先考慮：具備網路安全經驗，包括滲透測試、漏洞利用開發或逆向工程
- 優先考慮：具備社會技術風險經驗，包括騷擾或虛假資訊探測、濫用分析或對話式 AI 測試
- 優先考慮：具備心理學、表演或寫作經驗，能夠支援非常規的對抗性思維
福利待遇
- 完全遠端工作，可依自己的時間安排完成
- 透過 Stripe 或 Wise 每週收款
- 可選擇參與敏感度較高的專案
- 為涉及敏感內容的工作提供明確指南和健康資源
- 具競爭力的薪酬
- 有機會與頂尖研究人員合作
- 每成功推薦一人，最高可獲得 90 美元的推薦獎勵，具體受相關限制約束
