AI 安全專家（英語和泰米爾語）——遠端合約
Mercor 正在尋找一名能使用英語和泰米爾語的 AI 安全專家，對話模型和代理程式進行紅隊測試。 此合約職位主要負責找出漏洞、產生評估資料，並撰寫可重現的安全報告。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方法，對對話式 AI 模型和代理程式進行對抗性測試。
- 透過標註失敗案例、分類漏洞和找出系統性風險，建立人工產生的資料。
- 使用既有的分類法、基準測試和操作手冊，維持一致的評估方式。
- 為客戶提供可重現的報告、資料集和攻擊案例。
- 評估涉及敏感主題的 AI 輸出，包括偏見、錯誤資訊和有害行為。
- 找出自動化評估方法可能忽略的弱點。
- 擴大評估涵蓋範圍，協助減少生產環境中的意外問題。
- 透過結構化的對抗性測試改善客戶的 AI 系統。
職位要求
- 英語和泰米爾語達到母語或流利程度。
- 評估語言和內容時具備良好的判斷力。
- 能夠判斷 AI 回應是否準確、完整且適當，並說明判斷理由。
- 高度注意細微錯誤、不一致之處和遺漏。
- 始終遵循指南和品質標準。
- 能夠向技術和非技術受眾清楚說明推理過程。
- 能夠適應不同專案、任務形式和客戶的要求。
- 能夠以獨立承包商身分工作。
- 不支援 H1-B 和 STEM OPT 候選人。
- 優先考慮：具備對抗性機器學習經驗，包括越獄資料集、提示注入、RLHF 或 DPO 攻擊，或模型提取。
- 優先考慮：具備網路安全經驗，包括滲透測試、漏洞利用開發或逆向工程。
- 優先考慮：具備社會技術風險經驗，包括騷擾或錯誤資訊探測、濫用分析或對話式 AI 測試。
- 優先考慮：具備心理學、表演或寫作方面的創意探測經驗。
福利待遇
- 完全遠端工作。
- 工時彈性，可自行安排工作時間。
- 透過 Stripe 或 Wise 每週收款。
- 可選擇參與高敏感度專案。
- 針對涉及敏感內容的工作提供清楚指引和身心健康資源。
- 具競爭力的時薪。
- 有機會與頂尖研究人員合作。
- 每成功推薦一名候選人，最高可獲得 90 美元的推薦獎勵，但須遵守適用的上限。
- 可依要求提供合理便利。