Baseten은 머신러닝 및 AI 애플리케이션을 배포하는 기업을 위해 모델 추론 인프라를 제공합니다. 이 플랫폼은 높은 처리량의 추론, 신속한 배포, 자동 확장, 안전한 엔터프라이즈 모델 서빙, 오픈 소스 모델 패키징 지원을 결합해 빠르고 확장 가능한 서빙을 구현하도록 설계되었습니다. Baseten은 엔지니어링 및 머신러닝 팀이 모델 인프라 운영에 필요한 업무를 관리할 수 있도록 지원하여, 도메인별 모델 개발에 집중할 수 있게 합니다. 회사는 인공지능, SaaS, 엔터프라이즈 기술 분야에서 사업을 운영하며, 직원 수는 11~50명입니다.
솔루션 아키텍트—AI/ML 추론, 미국 원격 근무
Baseten의 솔루션 아키텍트로 합류해 고객의 AI/ML 요구사항을 프로덕션 환경에 바로 적용할 수 있는 추론 배포와 개념 증명으로 전환하도록 지원합니다. 영업 및 엔지니어링 팀과 협력해 요구사항 탐색, 데모, 벤치마킹, 아키텍처 설계, 기술 제공을 수행합니다.
설명
- 고객 요구사항 탐색 통화에서 영업팀과 협업
- 성공 기준, 아키텍처, 배포 계획을 중심으로 데모와 기술 범위 설정을 주도
- LLM, 임베딩, 이미지 및 동영상 생성, 음성 AI의 벤치마킹과 반복 가능한 배포를 담당
- H100과 B200 선택, 지연 시간과 처리량 최적화를 포함한 GPU 및 추론 구성 선택을 고객에게 안내
- 일반적인 모델과 사용 사례를 위한 반복 가능한 배포 플레이북을 개발
- vLLM, SGLang, TRT-LLM과 일반적인 구성 및 트레이드오프에 대한 실무 전문성을 심화
- 개념 증명을 정의하고 이해관계자와 일정, 산출물, 다음 단계를 조율
- 기술 프로젝트 리드로서 고객 개념 증명을 관리
- 더 심층적이거나 복잡한 기술 지원이 필요한 프로젝트에서 Forward Deployed Engineering 팀과 협업
지원 자격
- AI/ML 배경을 갖추고 고객 이해관계자와 기술 주제를 논의할 수 있는 신뢰도
- 구조화된 요구사항 탐색과 모호한 요구사항을 해결하는 능력을 포함한 뛰어난 고객 커뮤니케이션 역량
- 프로덕션 코드를 작성하지 않고도 솔루션 범위를 설정할 수 있는 충분한 기술 전문성
- 필요할 때 스크립트를 작성하고 프로토타입을 만들 수 있으며 빠른 코딩 워크플로에 익숙한 능력
- 머신러닝 추론 배포의 벤치마크를 수행하거나 지원한 경험
- GPU 선택과 지연 시간 및 처리량 조정 등 추론 성능과 비용에 영향을 미치는 인프라 의사결정에 대한 이해
- 영업 및 엔지니어링 전반의 크로스펑셔널 기술 담당자로서 고객 개념 증명을 주도한 경험
복리후생
- 경쟁력 있는 보상과 상당한 지분
- 미국 직원 및 부양가족을 위한 의료, 치과, 안과 보험 전액 보장
- 유연한 유급 휴가와 전사 겨울 휴가
- 유급 육아휴직
- Carrot을 통한 난임 및 가족 형성 지원금
- 미국 직원을 위한 회사 지원 401(k) 플랜
- 다양한 머신러닝 스타트업과 협업하며 학습 기회와 전문 네트워크를 넓힐 기회