AI紅隊——ActiveFence生成式AI對抗評估
為ActiveFence的AI安全平台開發對抗攻擊、資料集與基準測試。 透過紅隊測試和漏洞研究，檢驗大型語言模型的穩健性。
說明
- 設計新的對抗攻擊。
- 協助建置可擴充系統，以大規模產生和測試攻擊。
- 評估攻擊的品質、有效性、新穎性和可重現性。
- 發掘新興攻擊模式與模型弱點。
- 建立對抗資料集、基準測試和迴歸測試。
- 與資料科學、安全和工程團隊分享發現、方法及結構化攻擊資料。
- 協助提升模型穩健性和防禦能力。
職位要求
- 至少三年網路安全、安全研究、紅隊測試或相關安全領域的專業經驗。
- 擁有資料科學、電腦工程、電腦科學或密切相關技術領域的學士學位。
- 深入了解大型語言模型、提示注入和AI安全。
- 具備紅隊測試、安全研究或對抗測試經驗。
- 具備扎實的Python和自動化技能。
- 具備創造性解決問題的能力，並能開發新的攻擊技術。
- 能夠分析結果並清楚傳達發現。
- 優先考慮持有OSWA、OSWE、OSCE3、SEC542或SEC522等進攻性網路安全認證者。