AI安全專家——英語和旁遮普語
面向英語和旁遮普語流利的AI安全專家的遠程合約職位，支援Mercor的對話式AI紅隊測試專案。測試越獄、提示注入、有害內容風險和模型漏洞，並記錄可重現的發現。
說明
- 使用越獄、提示注入、濫用情境、偏見利用和多輪操弄，對對話式AI模型和代理程式進行對抗性測試
- 透過標註失敗案例、分類漏洞和識別系統性風險，建立人工生成的資料
- 應用既定的分類體系、基準和操作手冊，維持評估的一致性
- 為客戶準備可重現的報告、資料集和攻擊案例
- 評估AI輸出中的偏見、錯誤資訊、有害行為及其他敏感內容風險
- 識別自動化評估可能忽略的弱點
- 擴大評估涵蓋範圍，協助減少生產環境中的意外問題
- 透過結構化的對抗性測試改進客戶的AI系統
職位要求
- 英語和旁遮普語均達到母語流利程度
- 在評估語言和內容時具備良好的判斷力
- 能夠判斷AI回覆是否準確、完整且恰當，並解釋評估依據
- 高度關注細微錯誤、不一致之處和遺漏
- 持續遵守指南和品質標準
- 能夠向技術和非技術受眾清楚傳達推理過程
- 能夠適應不同專案、任務形式和客戶
- 具備獨立承包商身分
- 不得是H-1B或STEM OPT候選人
- 優先考慮：具備對抗性機器學習經驗，包括越獄資料集、提示注入、RLHF/DPO攻擊或模型提取
- 優先考慮：具備網路安全經驗，包括滲透測試、漏洞利用開發或逆向工程
- 優先考慮：具備社會技術風險經驗，包括騷擾或錯誤資訊探測、濫用分析或對話式AI測試
- 優先考慮：具備心理學、表演或寫作經驗，能夠支援非常規的對抗性思維
福利待遇
- 完全遠端工作
- 工作時間彈性，可自行安排工作時間
- 透過Stripe或Wise按週付款
- 專案可能因業務需求和工作表現而延長、縮短或提前結束
- 可選擇參與較高敏感度的專案
- 提供內容指南和健康資源
- 具競爭力的薪酬
- 可應要求提供合理便利
- 每次成功推薦最高可獲得90美元的推薦獎勵，但須遵守推薦次數限制