AI安全模型评估行为健康专家
评估涉及关系、情绪健康、灵性与非传统信念的敏感人工智能对话。 帮助人工智能实验室制定中立、安全的回复，并提升模型判断力。
描述
- 审查涵盖关系与家庭建议、情绪健康、灵性与形而上学主题，以及非传统或缺乏依据的信念的人工智能对话
- 判断模型回复是否中立、恰当且安全
- 标记并记录相关问题，包括过度认同、片面回应、强化扭曲或缺乏依据的信念、说教，以及不恰当的临床或指导性建议
- 制定评估标准、回复指南和参考答案，支持平衡、富有同理心且边界适当的回复
- 设计针对敏感非危机主题的测试对话和场景
- 与研究人员及其他专家合作，确保评估标准一致、校准充分且文档完整
任职要求
- 拥有心理学、咨询、社会工作、行为健康、行为科学、人类服务或相关学科的学位，或具备同等专业心理健康工作经验
- 至少三年在心理健康、咨询或社会服务环境中支持他人的专业经验
- 能够以中立且不带评判的方式评估不同观点、关系、信仰体系和世界观
- 能够清晰阐述专业评估背后的理由
- 了解迎合性回应、认知扭曲、健康边界，以及动机式访谈等以客户为中心的方法
- 工作日每周至少能够稳定工作20小时
- 具备出色的书面沟通能力，能够提供精准且条理清晰的反馈
- 有临床执照者优先，但非必需
- 具备人工智能安全、应用伦理、信任与安全或内容政策背景者优先
- 具备伴侣、家庭或关系咨询经验者优先
- 熟悉灵性照护、宗教或另类信仰社群，或错误信息与阴谋论信念心理学者优先
- 有评估、标注或红队测试人工智能系统经验者优先
- 目前无法支持H-1B和STEM OPT候选人
福利待遇
- W-2雇佣关系，工资发放、福利和合规事务由Cincinnatus LLC负责
- 根据所提供的服务，通过Stripe或Wise每周付款
- 完全远程工作
- 工作时间安排灵活
- 与领先的人工智能实验室和研究人员合作
- 参与下一代人工智能系统的开发
- 每成功推荐一人，最高可获1120美元推荐奖励，具体受适用限额约束