AI红队——ActiveFence生成式AI对抗评估
为ActiveFence的AI安全平台开发对抗攻击、数据集和基准测试。 通过红队测试和漏洞研究检验大语言模型的稳健性。
描述
- 设计新的对抗攻击。
- 协助构建可扩展系统，以大规模生成和测试攻击。
- 评估攻击的质量、有效性、新颖性和可复现性。
- 发现新兴攻击模式和模型漏洞。
- 创建对抗数据集、基准测试和回归测试。
- 与数据科学、安全和工程团队分享发现、方法及结构化攻击数据。
- 助力提升模型稳健性和防御能力。
任职要求
- 至少三年网络安全、安全研究、红队测试或相关安全领域的专业经验。
- 拥有数据科学、计算机工程、计算机科学或密切相关技术领域的学士学位。
- 深入了解大语言模型、提示注入和AI安全。
- 具备红队测试、安全研究或对抗测试经验。
- 具备扎实的Python和自动化技能。
- 具有创造性的问题解决能力，并能开发新的攻击技术。
- 能够分析结果并清晰传达发现。
- 优先考虑持有OSWA、OSWE、OSCE3、SEC542或SEC522等进攻性网络安全认证者。