人工智慧安全紅隊專家——英語和泰米爾語，遠端合約
透過對抗性探測和結構化紅隊分析，測試對話式人工智慧模型和代理程式的漏洞。 為 Mercor 的人工智慧實驗室客戶建立攻擊案例、漏洞資料和可重現報告。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方式探測對話式人工智慧模型和代理程式
- 透過記錄失敗、分類漏洞和識別系統性風險，建立人工標註資料
- 使用既定的分類體系、基準和操作手冊，維持評估的一致性
- 為客戶開發可重現的報告、資料集和攻擊案例
- 評估涉及偏見、錯誤資訊、有害行為及其他敏感主題的人工智慧輸出
- 識別自動化測試可能忽略的弱點
- 擴大評估涵蓋範圍，協助預防生產環境中的意外問題
- 改善客戶的人工智慧系統，助力打造更安全、更可靠的模型
職位要求
- 英語和泰米爾語均達到母語程度
- 在評估語言和內容時具備良好的判斷力
- 能夠判斷人工智慧回答是否準確、完整且恰當，並解釋評估結果
- 仔細留意細微錯誤、不一致之處和遺漏
- 能夠始終如一地應用指南和品質標準
- 能夠向技術和非技術受眾清楚說明推理過程
- 能夠靈活適應不同專案、任務形式和客戶
- 優先考慮：具備對抗性機器學習經驗，包括越獄資料集、提示注入、RLHF 或 DPO 攻擊，或模型擷取
- 優先考慮：具備網路安全背景，包括滲透測試、漏洞開發或逆向工程
- 優先考慮：具備社會技術風險經驗，例如騷擾和錯誤資訊探測、濫用分析或對話式人工智慧測試
- 優先考慮：具備心理學、表演或寫作方面的創意探測經驗
- 必須以獨立承包商身分工作
- 不支援 H-1B 和 STEM OPT 候選人
福利待遇
- 完全遠端工作
- 工作時間彈性，可自行安排工時
- 透過 Stripe 或 Wise 每週付款
- 具競爭力的時薪報酬
- 獲得以人類資料驅動的人工智慧紅隊經驗，專注於前沿安全
- 直接助力打造更穩健、安全且值得信賴的人工智慧系統
- 可選擇參與敏感度較高的專案
- 為涉及敏感內容的專案提供指南和健康資源
- 可應要求提供合理便利
- 推薦計畫：每次成功推薦最高可獲 90 美元，但須遵守推薦數量限制