AI 安全專家（英語和卡納達語）– 美國遠端合約職位
Mercor 正在尋找一名精通英語和卡納達語的 AI 紅隊專家，測試前沿模型的漏洞。此工作將為人類資料 AI 訓練專案建立可重現的攻擊案例、評估資料集和風險報告。
說明
- 使用越獄攻擊、提示注入、濫用情境、偏見利用和多輪操縱測試對話式 AI 模型及代理程式
- 透過記錄故障、分類漏洞並識別系統性風險，建立人類資料標註
- 使用既定的分類體系、基準測試和操作手冊，維持評估一致性
- 準備可重現的客戶報告、資料集和攻擊案例
- 評估 AI 在敏感主題上的回應，包括偏見、錯誤資訊和有害行為
- 調查 AI 系統中自動化測試可能忽略的弱點
- 擴大評估涵蓋範圍，協助減少生產環境中的意外問題
- 支援 Mercor AI 實驗室及企業客戶前沿模型的訓練和改進
職位要求
- 英語和卡納達語皆達到母語程度
- 評估 AI 回應是否準確、完整且適當時，具備良好的判斷力
- 具備清晰的溝通能力，能向技術和非技術受眾解釋推理過程
- 嚴謹細心，能發現細微錯誤、不一致和遺漏
- 能一致地應用分類體系、基準測試、操作手冊、指南和品質標準
- 能靈活適應不同專案、任務形式和客戶
- 能以獨立承包商身分工作
- 不得需要 H-1B 或 STEM OPT 贊助；不支援這些贊助途徑
- 具備對抗性機器學習、網路安全、社會技術風險、對話式 AI 測試、心理學、表演或非常規對抗性寫作相關經驗者佳
福利待遇
- 完全遠端工作，並可彈性安排自己的時間
- 透過 Stripe 或 Wise 按週收取所提供服務的報酬
- 可選擇是否參與涉及較高敏感度內容的專案
- 針對敏感內容任務獲得清楚指引和身心健康資源
- 獲得具競爭力的報酬
- 累積人類資料驅動的 AI 紅隊測試實務經驗
- 與頂尖研究人員合作
- 有需要時可申請合理調整
- 每成功推薦一人，最高可獲得 90 美元的推薦獎勵