Baseten 為部署機器學習與人工智慧應用程式的企業提供模型推論基礎架構。其平台專為快速、可擴展的服務而打造，結合高吞吐量推論、快速部署、自動擴展、安全的企業級模型服務，以及對開源模型封裝的支援。Baseten 協助工程與機器學習團隊管理模型基礎架構的營運需求，讓他們能專注於開發領域專屬模型。公司業務涵蓋人工智慧、軟體即服務與企業科技領域，團隊規模為 11 至 50 人。
解決方案架構師——AI/ML 推論，美國遠端
加入 Baseten，擔任解決方案架構師，協助客戶將 AI/ML 需求轉化為可投入生產的推論部署與概念驗證。與銷售和工程團隊合作，進行需求探索、示範、基準測試、架構設計與技術交付。
說明
- 在客戶需求探索電話中與銷售團隊合作
- 圍繞成功標準、架構和部署計畫，主導示範與技術範圍界定
- 負責 LLM、嵌入模型、影像和影片生成以及語音 AI 的基準測試與可重複部署
- 引導客戶進行 GPU 與推論設定選擇，包括 H100 與 B200 的選型，以及延遲與吞吐量之間的最佳化
- 為常見模型和使用情境制定可重複執行的部署手冊
- 深入掌握 vLLM、SGLang、TRT-LLM 及其典型設定與取捨
- 定義概念驗證，並協調利害關係人確認時程、交付成果與後續步驟
- 以技術專案負責人的身分管理客戶概念驗證
- 當專案需要更深入或更複雜的技術支援時，與前置部署工程團隊合作
職位要求
- 具備 AI/ML 背景，能夠與客戶利害關係人討論技術主題並建立可信度
- 具備出色的客戶溝通能力，包括結構化需求探索能力，以及解決模糊需求的能力
- 擁有足夠的技術專長，能夠界定解決方案範圍而無需撰寫生產環境程式碼
- 能夠在需要時撰寫腳本和製作原型，並熟悉快速編碼工作流程
- 具有執行或支援機器學習推論部署基準測試的經驗
- 了解影響推論效能與成本的基礎架構決策，包括 GPU 選擇以及延遲與吞吐量調校
- 作為跨職能技術負責人，具備跨銷售與工程團隊領導客戶概念驗證的經驗
福利待遇
- 具競爭力的薪酬與可觀的股權
- 為美國員工及其家屬提供完整的醫療、牙科與視力保險
- 彈性的帶薪休假以及全公司冬季休假
- 帶薪育兒假
- 透過 Carrot 提供生育與家庭組建津貼
- 為美國員工提供公司協助辦理的 401(k) 計畫
- 有機會與多元化的機器學習新創公司合作，拓展學習機會與專業人脈