Baseten 为部署机器学习和人工智能应用的企业提供模型推理基础设施。其平台专为快速、可扩展的服务而构建，结合了高吞吐量推理、快速部署、自动扩缩容、安全的企业级模型服务，以及对开源模型打包的支持。Baseten 帮助工程和机器学习团队应对模型基础设施的运营需求，使其能够专注于开发领域专属模型。公司业务涵盖人工智能、软件即服务和企业技术领域，团队规模为 11 至 50 人。
解决方案架构师——AI/ML 推理，美国远程
加入 Baseten，担任解决方案架构师，帮助客户将 AI/ML 需求转化为可投入生产的推理部署和概念验证。与销售和工程团队合作，开展需求探索、演示、基准测试、架构设计和技术交付。
描述
- 在客户需求探索电话中与销售团队合作
- 围绕成功标准、架构和部署计划，主导演示与技术范围界定
- 负责 LLM、嵌入模型、图像和视频生成以及语音 AI 的基准测试与可重复部署
- 指导客户进行 GPU 和推理配置选择，包括 H100 与 B200 的选型，以及延迟与吞吐量之间的优化
- 为常见模型和使用场景制定可重复执行的部署手册
- 深入掌握 vLLM、SGLang、TRT-LLM 及其典型配置和权衡取舍
- 定义概念验证，并协调利益相关者确定时间安排、交付成果和后续步骤
- 作为技术项目负责人管理客户概念验证
- 当项目需要更深入或更复杂的技术支持时，与前置部署工程团队合作
任职要求
- 具备 AI/ML 背景，能够与客户利益相关者就技术主题进行有说服力的交流
- 具备出色的客户沟通能力，包括结构化需求探索能力，以及解决模糊需求的能力
- 拥有足够的技术专长，能够界定解决方案范围而无需编写生产代码
- 能够在需要时编写脚本和制作原型，并熟悉快速编码工作流
- 具有开展或支持机器学习推理部署基准测试的经验
- 理解影响推理性能和成本的基础设施决策，包括 GPU 选择以及延迟与吞吐量调优
- 作为跨职能技术负责人，具备跨销售和工程团队领导客户概念验证的经验
福利待遇
- 具有竞争力的薪酬和可观的股权
- 为美国员工及其家属提供全面的医疗、牙科和视力保险
- 灵活的带薪休假以及全公司冬季休假
- 带薪育儿假
- 通过 Carrot 提供生育与家庭组建津贴
- 为美国员工提供公司协助办理的 401(k) 计划
- 有机会与多元化的机器学习初创公司合作，拓展学习机会和专业人脉