遠端 AI 安全專家——英語與古吉拉特語
對合作夥伴的 AI 模型和代理程式進行對抗性測試，找出漏洞、偏見與有害行為。 建立附註資料集、攻擊案例及可重現報告，改善前沿 AI 評估。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操弄等方式測試對話式 AI 模型和代理程式
- 透過標註失敗案例、分類漏洞及找出系統性風險，建立人工產生的資料
- 套用既有的分類法、基準和操作手冊，維持一致的評估方式
- 為客戶開發可重現的報告、資料集和攻擊案例
- 評估涉及偏見、錯誤資訊、有害行為及其他敏感主題的 AI 回應
- 找出自動化測試無法偵測的弱點
- 擴大評估涵蓋範圍，協助降低生產環境中的意外問題
- 透過結構化的對抗性測試改善客戶的 AI 系統
職位要求
- 必須具備英語和古吉拉特語的母語級流利程度
- 具備評估語言和內容的良好判斷力，包括判斷 AI 回應是否準確、完整且恰當，並能解釋評估結果
- 高度重視細微錯誤、不一致之處和遺漏
- 能夠始終如一地套用指南和品質標準
- 能夠向技術和非技術受眾清楚傳達推理過程
- 能靈活應對不同專案、任務類型和客戶
- 合作形式為獨立承包商安排
- 申請人不得為 H-1B 或 STEM OPT 候選人
- 具備對抗性機器學習、網路安全、社會技術風險或創意探測等背景者優先
福利待遇
- 完全遠端工作，工作時間由你自行安排
- 透過 Stripe 或 Wise 按週收取已提供服務的報酬
- 可選擇是否參與敏感度較高的專案
- 參與涉及敏感內容的專案時，可取得清楚的指導和健康資源
- 具競爭力的薪酬
- 與頂尖研究人員合作
- 每成功推薦一位候選人，最高可獲得 90 美元的推薦獎勵，但須遵守適用的限制