遠端AI安全專家——英語和阿薩姆語（合約制）
Mercor正在尋找一名遠端合約制AI安全專家，須精通英語和阿薩姆語，負責對前沿模型進行紅隊測試、評估漏洞，並為AI安全專案建立高品質人工資料。
說明
- 使用越獄、提示注入、誤用情境、偏見利用和多輪操縱等方法，對對話式AI模型和代理程式進行紅隊測試
- 透過標註失敗案例、分類漏洞和識別系統性風險，建立人工標註資料
- 使用分類法、基準測試和操作手冊，確保評估的一致性
- 為客戶建立可重現的報告、資料集和攻擊案例
- 評估涉及偏見、錯誤資訊和有害行為等敏感主題的AI輸出
- 識別自動化測試無法發現的漏洞
- 擴大評估涵蓋範圍，協助減少正式環境中的意外問題
- 參與訓練和改進前沿AI系統的專案
職位要求
- 英語和阿薩姆語皆達到母語程度
- 評估語言和內容品質時具備良好的判斷力
- 能夠判斷AI回應是否準確、完整且恰當
- 能夠向技術和非技術受眾清楚說明推理過程
- 對細微錯誤、不一致和遺漏具有極高的注意力
- 能夠始終如一地應用指南、分類法、基準測試、操作手冊和品質標準
- 能夠靈活配合不同專案、任務形式和客戶需求
- 必須以獨立承包商身分工作
- 目前無法為H-1B和STEM OPT候選人提供支援
- 具備對抗性機器學習、網路安全、社會技術風險、對話式AI評估、心理學、表演或寫作等領域專長者優先
福利待遇
- 完全遠端工作
- 自行安排適合自己的工作時間
- 透過Stripe或Wise每週收款
- 累積以人工資料驅動的AI紅隊測試實務經驗
- 協助打造更穩健、安全且值得信賴的AI系統
- 與頂尖AI研究人員合作
- 可依要求提供合理便利
- 每成功推薦一人，最高可獲得90美元推薦獎金，具體受適用限額約束