Baseten
Baseten
Baseten cung cấp hạ tầng suy luận mô hình cho các công ty triển khai ứng dụng học máy và AI. Nền tảng của công ty được xây dựng để phục vụ mô hình nhanh chóng và có khả năng mở rộng, kết hợp suy luận thông lượng cao, triển khai nhanh, tự động mở rộng, phục vụ mô hình doanh nghiệp an toàn và hỗ trợ đóng gói mô hình nguồn mở. Baseten giúp các đội ngũ kỹ thuật và học máy quản lý những yêu cầu vận hành của hạ tầng mô hình để họ có thể tập trung phát triển các mô hình chuyên biệt theo lĩnh vực. Công ty hoạt động trong các lĩnh vực trí tuệ nhân tạo, SaaS và công nghệ doanh nghiệp, với đội ngũ từ 11–50 nhân viên.

Quản lý Kỹ thuật, Hiệu năng Suy luận GPU tại Baseten

Dẫn dắt hoạt động kỹ thuật về hiệu năng suy luận GPU tại Baseten, một công ty hạ tầng AI. Định hướng tối ưu hóa runtime, hiệu quả mô hình và phát triển đội ngũ kỹ thuật chuyên biệt.

Mô tả

  • Quản lý, cố vấn và phát triển các kỹ sư hiệu năng suy luận thông qua các buổi trao đổi riêng định kỳ, phản hồi, lập kế hoạch nghề nghiệp và đánh giá hiệu suất
  • Tuyển dụng kỹ sư GPU và kỹ sư suy luận, đồng thời xây dựng văn hóa đội ngũ hợp tác
  • Chịu trách nhiệm về lộ trình và việc triển khai hiệu năng runtime
  • Đánh giá thiết kế kỹ thuật, chỉ đạo hoạt động profiling và tối ưu hóa, đồng thời hỗ trợ kỹ sư đánh giá mức sử dụng thời gian và bộ nhớ
  • Đưa lượng tử hóa, giải mã suy đoán, tái sử dụng bộ nhớ đệm KV, tiền xử lý theo khối và lập lịch tùy chỉnh vào môi trường production
  • Chuyển hóa các cải thiện hiệu năng thành những tiến bộ có thể đo lường về số token trên mỗi GPU-giờ, mức sử dụng, độ trễ và chi phí
  • Đưa các kiến trúc mô hình mới lên phần cứng thế hệ mới và tinh chỉnh hiệu năng của chúng
  • Phối hợp với các nhóm Hạ tầng, Nền tảng Suy luận, Kernel, API Mô hình và nhóm làm việc với khách hàng để ưu tiên công việc, điều phối ra mắt và mang lại cải tiến
  • Thiết lập các tiêu chuẩn kỹ thuật về chất lượng, benchmarking, vận hành xuất sắc và ứng phó sự cố
  • Thúc đẩy tối ưu hóa suy luận cho tác tử, kernel cho tác tử, huấn luyện mô hình giải mã suy đoán và Baseten Inference Stack

Yêu cầu

  • Bằng cử nhân, thạc sĩ hoặc tiến sĩ về khoa học máy tính, kỹ thuật, toán học hoặc lĩnh vực liên quan
  • Kinh nghiệm quản lý bao gồm tuyển dụng kỹ sư, cố vấn, phản hồi và đánh giá hiệu suất
  • Kinh nghiệm lãnh đạo hoặc hỗ trợ sát sao các nhóm tối ưu hóa GPU trong huấn luyện, suy luận hoặc hệ thống đề xuất
  • Kiến thức chuyên sâu về workload GPU, kiến trúc và các đánh đổi về hiệu năng
  • Am hiểu các thư viện học máy như PyTorch, TensorRT hoặc TensorRT-LLM
  • Có khả năng thiết lập lộ trình và cùng đội ngũ triển khai các dự án kỹ thuật phức tạp
  • Kỹ năng giao tiếp bằng văn bản và lời nói tốt để thống nhất các bên liên quan giữa các nhóm
  • Am hiểu các engine suy luận như vLLM, SGLang hoặc TensorRT-LLM
  • Kinh nghiệm áp dụng các phương pháp tối ưu hóa LLM như lượng tử hóa, giải mã suy đoán và batching liên tục
  • Kinh nghiệm phát triển hoặc làm việc với kernel GPU bằng CUDA, Triton hoặc CUTLASS
  • Kinh nghiệm mở rộng đội ngũ kỹ thuật trong giai đoạn startup tăng trưởng nhanh
  • Có kinh nghiệm thực hành trước đây với vai trò kỹ sư hiệu năng hoặc kỹ sư hệ thống trước khi chuyển sang quản lý

Phúc lợi

  • Gói đãi ngộ cạnh tranh kèm quyền sở hữu cổ phần đáng kể
  • Đối với nhân viên tại Hoa Kỳ, bảo hiểm y tế, nha khoa và nhãn khoa đầy đủ cho nhân viên và người phụ thuộc
  • Thời gian nghỉ có lương linh hoạt, bao gồm kỳ nghỉ đông trên toàn công ty
  • Nghỉ phép chăm con có lương
  • Hỗ trợ khả năng sinh sản và xây dựng gia đình thông qua Carrot
  • Đối với nhân viên tại Hoa Kỳ, chương trình 401(k) do công ty hỗ trợ triển khai
  • Cơ hội làm việc với nhiều startup học máy và xây dựng kết nối trong ngành

Việc làm liên quan

Yunicorn Ventures

Chuyên gia chiến lược sáng tạo làm việc từ xa tại Yunicorn Ventures

Yunicorn Ventures
11 – 50 Nhân viên
B2BDoanh nghiệpTiếp thị

Phát triển ý tưởng dựa trên nhu cầu khán giả, hành trình khách hàng và nội dung quảng cáo cho các doanh nghiệp có khả năng mở rộng của Yunicorn Ventures. Đây là vị trí toàn thời gian từ xa, phụ trách khu vực DACH đến Dubai.

Mở
Walmart

Kỹ sư phần mềm III về Dữ liệu lớn tại Walmart

Walmart

Xây dựng ứng dụng Dữ liệu lớn có khả năng mở rộng và công cụ cho nền tảng dữ liệu đám mây của Walmart. Phát triển dịch vụ Java và Python, hạ tầng phân tích và đường ống dữ liệu an toàn tại Bengaluru.

Mở
Nomura

Chuyên viên Dịch vụ Khách hàng, Quản lý Tài sản — Nomura, Singapore

Nomura

Hỗ trợ các quản lý quan hệ khách hàng và khách hàng có giá trị tài sản ròng cao về dịch vụ tài khoản, giao dịch, quy trình tiếp nhận khách hàng và hỗ trợ quan hệ liên tục. Vị trí này phụ trách mảng quản lý tài sản của Nomura tại Singapore.

Mở
Navitus Health Solutions

Chuyên viên cấp cao dịch vụ khách hàng, quyền lợi dược phẩm

Navitus Health Solutions

Quản lý các tài khoản quyền lợi dược phẩm phức tạp cho Navitus Health Solutions, xây dựng chiến lược khách hàng và hỗ trợ duy trì khách hàng. Tìm cơ hội mở rộng dịch vụ và cải thiện chi phí, chất lượng dịch vụ cũng như kết quả sức khỏe.

Mở
Procentia - Pensions Software Solutions

Chuyên viên phân tích dịch vụ khách hàng

Procentia - Pensions Software Solutions
51 – 200 Nhân viên
B2BFintechPhần mềm

Hỗ trợ khách hàng Procentia sử dụng phần mềm quản trị lương hưu thông qua việc chủ trì đánh giá dịch vụ, phân tích dữ liệu vận hành và điều phối hoạt động quản trị cùng các cải tiến giữa các nhóm. Phối hợp với các nhóm để nâng cao chất lượng dịch vụ và duy trì các tiêu chuẩn vận hành.

Mở
Hoffmann.Recruiting & More

Trưởng bộ phận kinh doanh sự kiện, Frankfurt

Hoffmann.Recruiting & More

Dẫn dắt hoạt động kinh doanh cho doanh nghiệp tổ chức hội nghị và sự kiện tại Frankfurt, thúc đẩy tăng trưởng khách hàng, công suất địa điểm và các ý tưởng sự kiện. Phát triển đội ngũ kinh doanh và phối hợp với các bộ phận nội bộ để tổ chức sự kiện.

Mở
Hoffmann.Recruiting & More

Quản lý kinh doanh sự kiện cấp cao, Frankfurt

Hoffmann.Recruiting & More

Dẫn dắt hoạt động kinh doanh hội nghị và sự kiện tại một địa điểm cao cấp ở Frankfurt, quản lý đội ngũ bán hàng và phát triển quan hệ khách hàng. Tập trung khai thác địa điểm, xây dựng ý tưởng sự kiện và phụ trách toàn bộ quy trình kinh doanh từ tìm kiếm khách hàng đến chăm sóc sau sự kiện.

Mở
The Duke of Edinburgh's Award

Trợ lý Hỗ trợ Kinh doanh, Sự kiện và Đại sứ

The Duke of Edinburgh's Award
201 – 500 Nhân viên
Giáo dụcTừ thiện

Phụ trách hành chính sự kiện, điều phối nhà cung cấp và việc đi lại, đồng thời giải đáp thắc mắc cho Giải thưởng Công tước xứ Edinburgh. Vị trí kết hợp làm việc tại nhà ở Vương quốc Anh và đến văn phòng Reading hằng tuần.

Mở