AI安全專家（英語和古吉拉特語）—遠端合約
為Mercor進行對話式AI模型和代理的紅隊評估。Mercor是專注於訓練前沿系統的AI實驗室合作夥伴。建立漏洞資料、攻擊情境和可重現的安全報告。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操縱測試對話式AI模型和代理
- 透過標註失敗案例、分類漏洞和識別系統性風險，建立人工標註資料
- 使用既有的分類體系、基準和操作手冊，確保評估一致
- 開發可重現的報告、資料集和攻擊情境
- 評估涉及偏見、錯誤資訊、有害行為及其他敏感主題的AI回應
- 識別自動化測試可能忽略的弱點
- 擴大評估涵蓋範圍，協助限制產品環境中的意外問題
- 透過清晰且可重現的評估成果改善客戶的AI系統
職位要求
- 以英語和古吉拉特語為母語或具備流利程度
- 評估語言和內容時具備良好的判斷力
- 能夠判斷AI回應是否準確、完整且恰當，並解釋評估結果
- 仔細留意細微錯誤、不一致之處和遺漏
- 始終遵守指南和品質要求
- 能夠向技術和非技術受眾清楚說明推理過程
- 能夠靈活應對不同專案、任務形式和客戶
- 具備對抗性機器學習、網路安全、社會技術風險或創意探測方面的專業經驗者優先
- 能夠以獨立承包商身分工作
- 不支援H-1B和STEM OPT候選人
福利待遇
- 完全遠端工作
- 自行選擇工作時間
- 透過Stripe或Wise每週收款
- 具競爭力的時薪報酬
- 可選擇參與涉及較高敏感度內容的專案
- 可取得敏感內容工作方面的清楚指引和健康資源
- 可應要求提供合理便利
- 每成功推薦一人，最高可獲得90美元的推薦獎勵