AI 安全紅隊專家（英語和旁遮普語）
Mercor 正在尋找一名會說英語和旁遮普語的 AI 安全專家，對話模型和代理程式進行紅隊測試。此合約職位專注於發現漏洞、建立攻擊案例，並為 AI 研究客戶製作可重現的安全報告。
說明
- 透過越獄、提示注入、濫用情境、偏見利用和多輪操縱測試對話式 AI 模型和代理程式
- 評估模型在偏見、錯誤資訊和有害行為等敏感主題上的輸出
- 記錄失敗情況、分類漏洞，並識別系統性風險
- 使用既定的分類法、基準和操作手冊，維持一致的評估
- 為客戶建立可重現的報告、資料集和攻擊案例
- 調查自動化測試可能忽略的 AI 系統弱點
- 擴大評估涵蓋範圍，協助限制生產環境中的意外問題
- 透過人工主導、資料驅動的紅隊測試改善客戶的 AI 系統
職位要求
- 英語和旁遮普語達到母語或流利程度
- 評估語言和內容時具備良好的判斷力
- 能夠判斷 AI 回應是否準確、完整且適當，並解釋評估結果
- 對細微錯誤、不一致和遺漏保持嚴謹的關注
- 始終遵循測試指南和品質標準
- 能夠向技術和非技術受眾清楚傳達推理過程
- 能夠靈活參與不同專案、任務形式和客戶的工作
- 能夠以獨立承包商身分參與工作
- 不得需要 H-1B 或 STEM OPT 支援
- 具備以下領域的專業知識者優先：對抗性機器學習、越獄資料集、提示注入、RLHF/DPO 攻擊、模型擷取、滲透測試、漏洞開發、逆向工程、騷擾或虛假資訊探測、濫用分析、對話式 AI 測試、心理學、表演或寫作
福利待遇
- 在此職位允許的任何地點遠端工作
- 自行安排工作時間
- 透過 Stripe 或 Wise 每週領取所提供服務的款項
- 專案可能根據業務需求和工作表現延長、縮減或提前結束
- 取得健康資源，以及高敏感度專案的明確指引
- 累積以人工資料驅動的 AI 紅隊測試經驗
- 協助讓 AI 系統更加穩健、安全和值得信賴
- 具競爭力的報酬
- 與領先的 AI 研究人員合作