Baseten cung cấp hạ tầng suy luận mô hình cho các công ty triển khai ứng dụng học máy và AI. Nền tảng của công ty được xây dựng để phục vụ mô hình nhanh chóng và có khả năng mở rộng, kết hợp suy luận thông lượng cao, triển khai nhanh, tự động mở rộng, phục vụ mô hình doanh nghiệp an toàn và hỗ trợ đóng gói mô hình nguồn mở. Baseten giúp các đội ngũ kỹ thuật và học máy quản lý những yêu cầu vận hành của hạ tầng mô hình để họ có thể tập trung phát triển các mô hình chuyên biệt theo lĩnh vực. Công ty hoạt động trong các lĩnh vực trí tuệ nhân tạo, SaaS và công nghệ doanh nghiệp, với đội ngũ từ 11–50 nhân viên.
Kiến trúc sư Giải pháp – Suy luận AI/ML, Làm việc từ xa tại Hoa Kỳ
Gia nhập Baseten với vai trò Kiến trúc sư Giải pháp, hỗ trợ khách hàng chuyển các yêu cầu AI/ML thành các triển khai suy luận và bản thử nghiệm sẵn sàng cho môi trường sản xuất. Phối hợp với bộ phận Kinh doanh và Kỹ thuật trong các hoạt động khám phá nhu cầu, trình diễn, đo điểm chuẩn, thiết kế kiến trúc và triển khai kỹ thuật.
Hoa Kỳ145.000 $ – 290.000 $ / năm
Từ xaToàn thời gianTrung cấpCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhKỹ sư giải phápMô tả
- Phối hợp với bộ phận Kinh doanh trong các cuộc gọi khám phá nhu cầu khách hàng
- Dẫn dắt các buổi trình diễn và xác định phạm vi kỹ thuật xoay quanh tiêu chí thành công, kiến trúc và kế hoạch triển khai
- Chịu trách nhiệm về việc đo điểm chuẩn và các triển khai có thể lặp lại cho LLM, mô hình nhúng, tác vụ tạo ảnh và video, cùng Voice AI
- Hướng dẫn khách hàng lựa chọn cấu hình GPU và suy luận, bao gồm lựa chọn giữa H100 và B200 cũng như tối ưu hóa độ trễ so với thông lượng
- Phát triển các sổ tay triển khai có thể lặp lại cho những mô hình và trường hợp sử dụng phổ biến
- Xây dựng chuyên môn thực tiễn sâu rộng về vLLM, SGLang, TRT-LLM cùng các cấu hình và đánh đổi điển hình của chúng
- Xác định các bản thử nghiệm và điều phối các bên liên quan về tiến độ, sản phẩm bàn giao và bước tiếp theo
- Quản lý các bản thử nghiệm của khách hàng với vai trò trưởng dự án kỹ thuật
- Kết nối với bộ phận Kỹ thuật Triển khai Tiền phương khi dự án cần hỗ trợ kỹ thuật chuyên sâu hoặc phức tạp hơn
Yêu cầu
- Có nền tảng về AI/ML và đủ uy tín để trao đổi các chủ đề kỹ thuật với các bên liên quan phía khách hàng
- Kỹ năng giao tiếp hướng tới khách hàng tốt, bao gồm khả năng khám phá nhu cầu có cấu trúc và xử lý các yêu cầu chưa rõ ràng
- Có chuyên môn kỹ thuật đủ để xác định phạm vi giải pháp mà không cần viết mã sản xuất
- Có khả năng viết tập lệnh và tạo nguyên mẫu khi cần, đồng thời thoải mái sử dụng các quy trình lập trình nhanh
- Có kinh nghiệm thực hiện hoặc hỗ trợ đo điểm chuẩn cho các triển khai suy luận máy học
- Hiểu các quyết định về hạ tầng ảnh hưởng đến hiệu năng và chi phí suy luận, bao gồm lựa chọn GPU và điều chỉnh độ trễ so với thông lượng
- Có kinh nghiệm dẫn dắt các bản thử nghiệm của khách hàng giữa bộ phận Kinh doanh và Kỹ thuật với vai trò chủ sở hữu kỹ thuật liên chức năng
Phúc lợi
- Mức đãi ngộ cạnh tranh cùng quyền sở hữu cổ phần có ý nghĩa
- Đối với nhân viên và người phụ thuộc tại Hoa Kỳ, được chi trả đầy đủ bảo hiểm y tế, nha khoa và thị lực
- Thời gian nghỉ có lương linh hoạt cùng kỳ nghỉ Đông áp dụng trên toàn công ty
- Nghỉ phép có lương dành cho cha mẹ
- Trợ cấp hỗ trợ khả năng sinh sản và xây dựng gia đình thông qua Carrot
- Đối với nhân viên tại Hoa Kỳ, chương trình 401(k) do công ty hỗ trợ tổ chức
- Cơ hội làm việc với nhiều công ty khởi nghiệp ML đa dạng và mở rộng mạng lưới học hỏi, nghề nghiệp