AI 安全專家——英語和馬拉地語（遠端合約）
Mercor 正在尋找精通英語和馬拉地語的 AI 安全專家，對對話式 AI 系統進行紅隊測試。 此合約職位專注於對抗性測試、漏洞分析，以及為人類資料和前沿 AI 專案提供清晰報告。
說明
- 針對越獄、提示注入、濫用情境、偏見利用和多輪操縱，測試對話式 AI 模型和代理程式
- 透過標註失敗案例、分類漏洞並識別系統性風險，建立人類資料資產
- 使用既定的分類體系、基準測試和操作手冊，確保評估一致
- 交付可重現的攻擊案例、資料集和面向客戶的報告
- 評估 AI 在敏感主題上的回應，包括偏見、錯誤資訊和有害行為
- 找出自動化評估方法可能忽略的弱點
- 擴大測試涵蓋範圍，協助防止生產環境中的意外問題
- 支援客戶提升其 AI 系統的安全性、穩健性和可靠性
- 與頂尖研究人員合作開展訓練和推進前沿 AI 模型的專案
職位要求
- 以英語和馬拉地語為母語或具備流利程度
- 評估語言和內容時具備良好的判斷力
- 能夠判斷 AI 回應是否準確、完整且合適，並清楚說明理由
- 仔細注意細微錯誤、不一致之處和遺漏
- 可靠地遵守測試指南和品質要求
- 能夠向技術和非技術受眾清楚傳達推理過程
- 能夠靈活參與不同專案、任務和客戶的工作
- 能夠以獨立承包商身分工作
- 不得需要 H-1B 或 STEM OPT 贊助
- 優先考慮：具備對抗性機器學習經驗，包括越獄資料集、提示注入、RLHF/DPO 攻擊或模型提取
- 優先考慮：具備網路安全經驗，包括滲透測試、漏洞利用開發或逆向工程
- 優先考慮：具備社會技術風險經驗，包括騷擾或錯誤資訊探測、濫用分析或對話式 AI 測試
- 優先考慮：具備心理學、表演或寫作經驗，能夠支援非常規的對抗性思維
福利待遇
- 完全遠端的合約工作
- 彈性安排工作時間，可自行設定工作時段
- 透過 Stripe 或 Wise 按週付款
- 專案期限可能根據業務需求和工作表現發生變化或提前結束
- 可選擇參與涉及較高敏感度內容的專案
- 為敏感內容相關任務提供明確指導和身心健康資源
- 可應要求提供合理便利
- 每成功推薦一人，最高可獲得 90 美元推薦獎勵