
工程主管,AI 紅隊
領導 FAR.AI 面向全球前沿 AI 紅隊計畫的工程職能。 建立團隊、代理工具與評估系統,推動 AI 安全與保障發展。
說明
- 擴大 FAR.AI 紅隊工程組織及其系統、產品、服務、評估與代理的規模
- 建立能夠系統性調查攻擊面的代理紅隊系統
- 發現最新披露的公開越獄方法,並自動納入紅隊平台
- 改進攻擊者模擬與有害輸出評估方法
- 開發漏洞資料庫、統計分析能力與報告基礎設施
- 為與前沿 AI 公司及政府進行的高風險紅隊專案交付系統
- 協助製作公開報告、基準測試與排行榜
- 參與對封閉權重與開放權重前沿模型的紅隊測試
- 開發提升紅隊效率的代理工作流程
- 領導、指導並支援工程與紅隊貢獻者
- 規劃衝刺工作並負責工程交付
- 為快速推進的專案建立可擴展流程
- 設計招募流程並招募工程經理及其他團隊成員
- 找出工程限制並落實有效的解決方案
- 與技術領導層合作推進工程系統、方法、評估與研究
- 協助制定紅隊技術與產品策略
- 將技術概念與研究發現轉化為現實世界中的實際影響
職位要求
- 具備豐富的軟體工程、人工智慧或電腦工程經驗,涵蓋網路安全或 MLOps 等領域
- 擁有建立、發展與領導技術團隊的優良經歷,包括從零開始建立新創公司及管理者團隊
- 具備使用編碼代理、Python、LLM API、本機 LLM 框架、評估框架、LLM 代理、雲端基礎設施與運算叢集的實務經驗
- 能夠在快速變動的環境中有效工作
- 堅定致力於推動前沿 AI 系統的使命與影響力
- 具備清楚說明技術方案的能力,能夠面向技術與非技術受眾進行溝通
- 能夠持續執行並朝著雄心勃勃的目標推進
- 具備建構前沿 LLM 或代理系統,或對其進行紅隊測試的經驗者優先
- 具備在創業環境中建立技術團隊與產品的經驗者優先
- 具備發掘複雜系統中隱蔽且高嚴重性漏洞的能力者優先
- 具備對抗性機器學習或安全背景者優先
- 曾在 AI 實驗室、安全團隊或政府安全研究機構工作者優先
- 發表過 AI 安全、保障或穩健性研究,或有其他相關成果者優先
- 願意在一定程度上配合時區安排
- 可全職工作,每週 40 小時
福利待遇
- 報銷工作相關的差旅費用
- 報銷設備費用
- 柏克萊辦公室提供午餐與晚餐
- 可為美國或新加坡提供簽證贊助
- 帶薪工作試用







