高級人工智慧研究員——以色列混合辦公
負責開放權重人工智慧模型的強化學習評估、紅隊測試與安全稽核。為 ActiveFence 的人工智慧信任、安全與防護工作建立基準測試和後訓練流程。
說明
- 負責開放權重模型的後訓練評估、紅隊測試以及強化學習環境稽核
- 設計嚴謹的基準測試方法
- 評估大型語言模型應對複雜威脅的能力，包括間接提示注入攻擊
- 建立後訓練評估流程，用於衡量符合現實情境的前沿級安全能力
- 在以安全為重點的強化學習環境中，使用開放權重通用模型進行 GRPO 等後訓練實驗
- 檢視即時損失曲線和 rollout 軌跡，以發現獎勵破解、策略懶惰收斂以及規範定義不完善的驗證器
- 評估涉及工具使用、網頁導覽和電腦使用的任務及多輪環境，考察其真實性、威脅模型準確性、資料分布和資料集平衡性
- 製作評估卡，涵蓋檢查點效能提升、失敗模式、rollout 的 token 數和輪次，以及任務層級成功率
- 將包括 Harbor 格式環境在內的容器化 Docker 環境整合至內部訓練框架
- 改善重置和狀態保持語意、並行能力及吞吐量限制
職位要求
- 資料科學、機器學習、電腦科學碩士或博士學位，或具備同等的深度學習實務經驗
- 具備使用 GRPO 或 PPO 等強化學習演算法，在開放權重架構上訓練大規模模型的實務經驗
- 深入了解大型語言模型漏洞、紅隊測試實務，以及針對間接提示注入攻擊的防禦性對齊
- 熟悉 PyTorch、Docker 容器化和分散式訓練架構
- 能夠解讀智能體 rollout 軌跡、建立確定性評分標準和驗證器，並除錯複雜的獎勵塑形問題
- 具備 Harbor 等標準強化學習環境格式經驗者優先
- 具備評估工具使用或網頁瀏覽環境中複雜智能體工作流程經驗者優先
- 熟悉針對對抗性工作負載評估類似 Llama 或 Mistral 的開放權重模型者優先