Mercor
Mercor
51 – 200 員工
Mercor 目前可取得的公司資料未包含足夠的已驗證資訊,因此無法準確概述其產品、服務、客戶、所屬產業或招募重點。在描述該企業及其職缺機會之前,仍需要更多來源資料。

Mercor 遠端人工智慧安全專家(英語和馬拉地語)

透過以英語和馬拉地語進行紅隊測試,探測對話式人工智慧模型的漏洞。為以人工資料為基礎的人工智慧安全專案建立可重現的資料集、攻擊案例和報告。

說明

  • 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方法,對對話式人工智慧模型和代理進行紅隊測試
  • 透過標註失敗案例、分類漏洞和識別系統性風險,建立人工資料
  • 使用分類體系、基準和操作手冊,維持評估的一致性
  • 為客戶製作可重現的報告、資料集和攻擊案例
  • 評估涉及敏感主題的人工智慧輸出,包括偏見、錯誤資訊和有害行為
  • 識別自動化測試可能忽略的弱點
  • 擴大評估涵蓋範圍,協助預防生產環境中的意外問題
  • 支援客戶提升其人工智慧系統的安全性、穩健性和可信度

職位要求

  • 必須具備流利或母語程度的英語和馬拉地語能力
  • 對語言和內容具有良好判斷力,能夠評估人工智慧回覆是否準確、完整且恰當,並解釋判斷依據
  • 對細微錯誤、不一致和遺漏具有出色的注意力
  • 始終遵守既定指南和品質標準
  • 能夠向技術和非技術受眾清楚傳達判斷依據
  • 能夠適應不同專案、任務形式和客戶
  • 必須以獨立承包商身分工作
  • 不支援H1-B和STEM OPT候選人
  • 優先考慮:具備對抗性機器學習經驗,包括越獄資料集、提示注入、RLHF或DPO攻擊,或模型提取
  • 優先考慮:具備網路安全經驗,包括滲透測試、漏洞利用開發或逆向工程
  • 優先考慮:具備社會技術風險經驗,包括騷擾或錯誤資訊探測、濫用分析或對話式人工智慧測試
  • 優先考慮:具備心理學、表演或寫作經驗,能夠支援非常規的對抗性思維

福利待遇

  • 完全遠端工作
  • 工作時間彈性,可自行選擇工作時段
  • 根據已交付的服務,透過Stripe或Wise每週收款
  • 專案期限可能根據業務需求和工作表現延長、縮短或提前結束
  • 針對涉及較高敏感度內容的專案,提供健康資源和明確指導
  • 可依要求提供合理便利
  • 推薦計畫:每成功推薦一人最高可獲得90美元,推薦人數不限
  • 有機會與頂尖研究人員合作
  • 獲得在人工智慧安全前沿進行以人工資料為基礎的人工智慧紅隊測試經驗

相關職缺