人工智慧安全專家（英語和泰盧固語）——遠端合約工作
為 Mercor 對話式人工智慧模型和代理程式進行紅隊評估，專注於英語和泰盧固語安全性。 建立漏洞資料、攻擊案例和可重現報告，支援更安全的人工智慧開發。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱測試對話式人工智慧模型和代理程式
- 標註失敗情況、分類漏洞並找出系統性風險
- 使用分類法、基準測試和操作手冊，維持一致的評估方式
- 為客戶建立可重現的報告、資料集和攻擊案例
- 評估涉及偏見、錯誤資訊、有害行為及其他敏感主題的人工智慧輸出
- 參與訓練和改進人工智慧系統的專案
- 找出自動化測試無法偵測的漏洞
- 擴大評估涵蓋範圍，協助減少生產環境中的意外問題
職位要求
- 英語和泰盧固語具備母語或流利程度
- 評估人工智慧回應是否準確、完整且恰當時具備良好判斷力
- 能向技術和非技術受眾清楚說明推理過程
- 仔細留意細微錯誤、不一致之處和遺漏
- 持續遵守指南和品質標準
- 能靈活適應不同專案、任務形式和客戶
- 願意以獨立承包商身分工作
- 不得是 H-1B 或 STEM OPT 候選人；相關專長可能包括對抗性機器學習、越獄資料集、提示注入、RLHF/DPO 攻擊、模型提取、滲透測試、漏洞開發、逆向工程、騷擾或虛假資訊探測、濫用分析、對話式人工智慧測試、心理學、表演或寫作。
- 福利
福利待遇
- 完全遠端工作，並自行安排工作時間
- 透過 Stripe 或 Wise 每週收取已提供服務的款項
- 累積以人類資料驅動、專注於前沿安全的人工智慧紅隊經驗
- 協助打造更穩健、安全且值得信賴的人工智慧系統
- 可選擇是否參與高敏感度專案
- 可取得高敏感度專案的清楚指引和健康支持資源
- 可申請合理便利
- 每次成功推薦最高可獲得 90 美元，推薦次數沒有明確上限