AI安全紅隊專家（英語和旁遮普語）
使用英語和旁遮普語對對話式AI模型及代理進行對抗性測試。 為Mercor的人類資料AI安全專案建立漏洞註解、攻擊案例、資料集和可重現的安全報告。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱等方式探測對話式AI模型及代理
- 透過記錄失敗表現、分類漏洞並識別系統性風險，建立人類資料註解
- 使用既有的分類體系、基準和操作手冊，維持評估的一致性
- 為客戶交付可重現的報告、資料集和攻擊案例
- 評估與偏見、錯誤資訊、有害行為及其他敏感主題相關的AI輸出
- 擴大評估涵蓋範圍，識別自動化測試可能忽略的漏洞
- 協助提升客戶AI系統的安全性、穩健性和可信度
職位要求
- 英語和旁遮普語母語或流利程度的語言能力
- 在評估AI生成內容的準確性、完整性和適切性時具備良好判斷力
- 能夠察覺細微錯誤、不一致之處和遺漏
- 始終遵循指南、分類體系、基準、操作手冊和品質標準
- 能夠向技術和非技術受眾清楚說明推理過程
- 能夠靈活適應不同專案、任務形式和客戶要求
- 能夠以獨立承包商身分工作
- 不支援H1-B和STEM OPT候選人
- 具備對抗性機器學習、越獄資料集、提示注入或RLHF/DPO攻擊、模型提取、滲透測試、漏洞利用開發、逆向工程、騷擾或錯誤資訊探測、濫用分析、對話式AI測試、心理學、表演或非傳統對抗性寫作方面的背景者優先
福利待遇
- 完全遠端工作，時間安排靈活且可自行管理
- 透過Stripe或Wise每週收款
- 具競爭力的薪酬
- 提供健康資源，並為高敏感度專案提供明確指引
- 可應要求提供合理便利
- 每成功推薦一人，最高可獲得90美元推薦獎勵
- 有機會與頂尖研究人員合作
- 獲得在人類資料AI紅隊測試領域進行前沿AI安全實務的親身經驗