遠端人工智慧安全專家（英語和卡納達語）
使用英語和卡納達語輸入，對 Mercor 的前沿人工智慧模型進行對抗性測試，以找出漏洞。 建立可重現的安全資料、攻擊案例和報告，供人工智慧客戶使用。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方式測試對話式人工智慧模型和代理程式
- 透過標註失敗案例、分類漏洞和識別系統性風險，建立人工生成的資料
- 使用既定的分類法、基準和操作手冊，維持評估一致性
- 開發客戶可使用的可重現報告、資料集和攻擊案例
- 評估人工智慧在偏見、錯誤資訊和有害行為等敏感主題上的輸出
- 找出自動化評估可能忽略的弱點
- 擴大評估涵蓋範圍，協助預防生產環境中的意外問題
- 參與為 Mercor 的人工智慧實驗室和企業客戶訓練及改進人工智慧系統的專案
職位要求
- 英語和卡納達語皆具備母語或流利程度
- 在評估語言和內容時具備良好判斷力，包括人工智慧回應的準確性、完整性和適切性
- 能夠向技術和非技術受眾清楚說明推理過程
- 仔細留意細微錯誤、不一致之處和遺漏
- 能夠持續套用分類法、基準、操作手冊、指南和品質標準
- 能夠靈活處理不同專案、任務格式和客戶
- 必須以獨立承包商身分工作
- 申請人不得正在申請 H-1B 或 STEM OPT 身分
- 優先考慮具備對抗式機器學習經驗者，例如越獄資料集、提示注入、RLHF 或 DPO 攻擊，或模型提取方面的經驗
- 優先考慮具備網路安全背景者，例如滲透測試、漏洞利用開發或逆向工程
- 優先考慮具備社會技術風險經驗者，例如騷擾或錯誤資訊探測、濫用分析或對話式人工智慧測試
- 優先考慮具備心理學、表演或寫作經驗，能夠支持非常規的對抗性思維
福利待遇
- 完全遠端的合約工作，並提供排程彈性
- 根據已交付的服務，透過 Stripe 或 Wise 每週付款
- 獲得以人工資料驅動的人工智慧紅隊測試經驗，專注於前沿人工智慧安全
- 為打造更穩健、更安全、更值得信賴的人工智慧系統作出有意義的貢獻
- 為涉及較高敏感度內容的專案提供健康資源和明確指引
- 可依要求提供合理便利
- 每次成功推薦最高可獲 90 美元推薦獎勵，但須遵守適用限制