AI 安全專家——英語和阿薩姆語｜Mercor 遠端合約
對前沿 AI 模型進行對抗性測試，找出越獄、偏見、濫用及其他安全風險。 為 Mercor 客戶建立人工資料標註、漏洞分類與可重現的攻擊證據。
說明
- 對對話式 AI 模型與代理程式進行對抗性測試，找出越獄、提示注入、濫用、偏見利用與多輪操控
- 建立人工資料標註，分類失敗情況並辨識系統性風險
- 運用既有分類法、基準測試與操作手冊，讓評估標準化
- 為客戶交付可重現的報告、資料集與攻擊案例
- 評估涉及偏見、錯誤資訊、有害行為及其他敏感主題的 AI 回應
- 找出自動化測試無法偵測的弱點
- 擴大評估涵蓋範圍，協助預防生產環境中的意外問題
- 透過結構化對抗性測試改善客戶的 AI 系統
職位要求
- 英語和阿薩姆語達到母語流利程度
- 在評估語言與內容的準確性、完整性及適切性時具備良好判斷力
- 能夠發現細微錯誤、不一致與遺漏
- 持續遵守指南與品質標準
- 能向技術與非技術受眾清楚說明推理過程
- 能靈活應對不同專案、任務格式與客戶需求
- 優先考慮：具備對抗性機器學習經驗，包括越獄資料集、提示注入、RLHF 或 DPO 攻擊，或模型提取
- 優先考慮：具備網路安全經驗，包括滲透測試、漏洞利用開發或逆向工程
- 優先考慮：具備社會技術風險經驗，包括騷擾或錯誤資訊探測、濫用分析或對話式 AI 測試
- 優先考慮：具備心理學、表演或寫作經驗，能支持非常規的對抗性思維
- 必須以獨立承包商身分工作
- 不支援 H-1B 和 STEM OPT 候選人
福利待遇
- 完全遠端工作
- 自行選擇工作時間
- 透過 Stripe 或 Wise 每週收款
- 累積人工資料驅動的 AI 紅隊實務經驗
- 協助 AI 系統變得更穩健、更安全、更值得信賴
- 與領先研究人員合作
- 可應要求提供合理便利
- 成功推薦候選人可獲得最高 90 美元的推薦獎勵