英语与芬兰语 AI 安全专家
通过越狱、提示注入和滥用场景测试前沿 AI 系统的脆弱性。 整理结构化发现和可复现的攻击案例，支持 AI 安全评估。
描述
- 使用越狱、提示注入、滥用场景、偏见利用和多轮操纵测试对话式 AI 模型与智能体。
- 通过记录失效情况、对漏洞进行分类并识别系统性风险，创建人工标注数据。
- 使用分类体系、基准测试和操作手册，确保测试一致。
- 为客户提供可复现的报告、数据集和攻击案例。
- 评估 AI 在偏见、虚假信息和有害行为等敏感议题上的输出。
- 发现自动化测试可能遗漏的漏洞。
- 扩大评估覆盖范围，帮助预防生产环境中意外出现的问题。
- 参与训练和改进前沿 AI 系统的项目。
任职要求
- 英语和芬兰语流利，或达到母语水平。
- 曾在 AI 对抗测试、网络安全或社会技术探测领域从事红队工作。
- 能够以对抗方式测试 AI 系统，并推动其达到能力极限。
- 具备使用框架或基准进行结构化测试的经验。
- 能够向技术和非技术受众清楚说明风险。
- 能够根据不同项目和客户的需求灵活调整。
- 在对抗性机器学习、网络安全、社会技术风险或创造性探测方面有专长者优先。
- 以独立承包商身份合作。
- 不得需要 H-1B 或 STEM OPT 担保。
福利待遇
- 完全远程工作。
- 时间安排灵活，可自行设定工作时间。
- 通过 Stripe 或 Wise 每周收款。
- 项目可能根据需求和表现延长、缩短或提前结束。
- 提供健康资源，并为涉及较高敏感度议题的项目提供明确指导。
- 可根据申请提供合理便利。
- 有机会积累以人工数据为基础的 AI 红队测试经验。
- 与顶尖研究人员共事。
- 每成功推荐一人，最高可获 250 美元推荐奖励；适用限制。