AI安全紅隊專家——英語與芬蘭語，美國遠端
為 Mercor 的人類資料 AI 專案對話式 AI 模型與代理程式進行對抗性測試。 建立可重現的漏洞資料，協助強化前沿 AI 系統。
說明
- 使用越獄、提示注入、濫用情境、偏見利用與多輪操縱測試對話式 AI 模型與代理程式
- 標註失敗情況、分類漏洞並識別系統性風險
- 應用既有的分類法、基準與操作手冊，進行一致性評估
- 為客戶建立可重現的報告、資料集與攻擊案例
- 識別自動化測試可能忽略的漏洞
- 擴大評估涵蓋範圍，協助減少生產環境中的意外問題
- 與頂尖研究人員合作進行訓練與改進 AI 系統的專案
職位要求
- 英語與芬蘭語流利或達到母語程度
- 具備 AI 對抗性工作、網路安全或社會技術探測方面的紅隊經驗
- 能夠對 AI 系統進行對抗性測試，並推動其暴露失效點
- 具備應用框架或基準進行結構化測試的經驗
- 能夠向技術與非技術受眾清楚傳達風險
- 能夠適應不同專案與客戶要求
- 能夠以獨立承包商形式參與合作
- 不得是 H-1B 或 STEM OPT 候選人
- 優先考慮：具備對抗性機器學習經驗，包括越獄資料集、提示注入、RLHF/DPO 攻擊或模型提取
- 優先考慮：具備滲透測試、漏洞利用開發或逆向工程方面的網路安全經驗
- 優先考慮：具備社會技術風險經驗，包括騷擾或虛假資訊探測、濫用分析或對話式 AI 測試
- 優先考慮：具備心理學、表演或寫作經驗，能夠支持非常規的對抗性思維
福利待遇
- 完全遠端工作
- 彈性安排工作時間
- 透過 Stripe 或 Wise 按週支付
- 提供健康資源，並為高敏感度專案制定明確指南
- 有機會累積人類資料 AI 紅隊經驗
- 有機會直接協助 AI 系統變得更穩健、安全且值得信賴
- 具競爭力的薪酬
- 每成功推薦一人，推薦獎金最高為 250 美元