FAR.AI
FAR.AI
FAR.AI 是一家致力於讓先進人工智慧對所有人都安全且有益的研究與教育非營利組織。其團隊研究可信賴人工智慧領域的關鍵挑戰,包括穩健性、欺騙性、可解釋性以及前沿系統的評估。FAR.AI 透過技術研究、培訓、活動、工作坊、資助以及 FAR.Labs 等計畫支援研究人員,並提升整個領域開發安全且符合人類目標之人工智慧的能力。該組織也分享研究成果,召集學術界與產業界領袖,並與大學及公共機構合作推動人工智慧安全與政策相關工作。

工程主管,AI 紅隊

領導 FAR.AI 面向全球前沿 AI 紅隊計畫的工程職能。 建立團隊、代理工具與評估系統,推動 AI 安全與保障發展。

說明

  • 擴大 FAR.AI 紅隊工程組織及其系統、產品、服務、評估與代理的規模
  • 建立能夠系統性調查攻擊面的代理紅隊系統
  • 發現最新披露的公開越獄方法,並自動納入紅隊平台
  • 改進攻擊者模擬與有害輸出評估方法
  • 開發漏洞資料庫、統計分析能力與報告基礎設施
  • 為與前沿 AI 公司及政府進行的高風險紅隊專案交付系統
  • 協助製作公開報告、基準測試與排行榜
  • 參與對封閉權重與開放權重前沿模型的紅隊測試
  • 開發提升紅隊效率的代理工作流程
  • 領導、指導並支援工程與紅隊貢獻者
  • 規劃衝刺工作並負責工程交付
  • 為快速推進的專案建立可擴展流程
  • 設計招募流程並招募工程經理及其他團隊成員
  • 找出工程限制並落實有效的解決方案
  • 與技術領導層合作推進工程系統、方法、評估與研究
  • 協助制定紅隊技術與產品策略
  • 將技術概念與研究發現轉化為現實世界中的實際影響

職位要求

  • 具備豐富的軟體工程、人工智慧或電腦工程經驗,涵蓋網路安全或 MLOps 等領域
  • 擁有建立、發展與領導技術團隊的優良經歷,包括從零開始建立新創公司及管理者團隊
  • 具備使用編碼代理、Python、LLM API、本機 LLM 框架、評估框架、LLM 代理、雲端基礎設施與運算叢集的實務經驗
  • 能夠在快速變動的環境中有效工作
  • 堅定致力於推動前沿 AI 系統的使命與影響力
  • 具備清楚說明技術方案的能力,能夠面向技術與非技術受眾進行溝通
  • 能夠持續執行並朝著雄心勃勃的目標推進
  • 具備建構前沿 LLM 或代理系統,或對其進行紅隊測試的經驗者優先
  • 具備在創業環境中建立技術團隊與產品的經驗者優先
  • 具備發掘複雜系統中隱蔽且高嚴重性漏洞的能力者優先
  • 具備對抗性機器學習或安全背景者優先
  • 曾在 AI 實驗室、安全團隊或政府安全研究機構工作者優先
  • 發表過 AI 安全、保障或穩健性研究,或有其他相關成果者優先
  • 願意在一定程度上配合時區安排
  • 可全職工作,每週 40 小時

福利待遇

  • 報銷工作相關的差旅費用
  • 報銷設備費用
  • 柏克萊辦公室提供午餐與晚餐
  • 可為美國或新加坡提供簽證贊助
  • 帶薪工作試用

相關職缺