AI 安全專家——英語和孟加拉語（遠端合約）
Mercor 正在尋找一名會說英語和孟加拉語的 AI 安全紅隊測試人員，以找出對話式 AI 系統中的漏洞。此職位需要建立可重現的攻擊案例，並為訓練前沿模型的 AI 實驗室製作人工生成資料。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操弄等方式測試對話式 AI 模型和代理程式
- 透過標註失誤、分類漏洞並識別系統性風險，建立人工生成資料
- 使用既有的分類體系、基準測試和操作手冊，確保評估保持一致
- 為客戶交付可重現的報告、資料集和攻擊案例
- 評估 AI 涉及偏見、錯誤資訊、有害行為及其他敏感主題的回應
- 擴大評估涵蓋範圍，協助打造更強大的客戶 AI 系統
職位要求
- 英語和孟加拉語達到母語或流利程度
- 在評估語言和內容時具備良好的判斷力，包括判斷 AI 回應是否準確、完整且適當，並能夠說明評估結果
- 高度關注細微錯誤、不一致之處和遺漏
- 可靠地遵循測試指南和品質標準
- 能夠向技術和非技術受眾清楚說明推理過程
- 願意在不同專案、任務形式和客戶之間靈活調整
- 能夠以獨立承包商身分工作
- 不得需要 H-1B 或 STEM OPT 贊助
- 優先考慮：具備對抗式機器學習經驗，包括越獄資料集、提示注入、RLHF/DPO 攻擊或模型擷取
- 優先考慮：具備滲透測試、漏洞利用開發或逆向工程方面的網路安全經驗
- 優先考慮：具備社會技術風險經驗，包括騷擾或虛假資訊探測、濫用分析或對話式 AI 測試
- 優先考慮：具備心理學、表演或寫作經驗，能夠支持非常規的對抗式思維
福利待遇
- 完全遠端工作
- 安排彈性的工作時間，並依照自己的時間安排工作
- 透過 Stripe 或 Wise 每週收款
- 可選擇是否參與高敏感度專案
- 可獲得清楚的指導和敏感內容任務相關的身心健康資源
- 獲得具競爭力的報酬
- 累積以人工資料為基礎的 AI 紅隊測試經驗
- 與頂尖 AI 研究人員合作
- 每成功推薦一人，最高可獲得 90 美元的推薦獎勵