Baseten
Baseten
Baseten menyediakan infrastruktur inferensi model bagi perusahaan yang menerapkan aplikasi pembelajaran mesin dan kecerdasan buatan. Platformnya dirancang untuk penyajian model yang cepat dan dapat diskalakan, dengan menggabungkan inferensi berthroughput tinggi, penerapan cepat, penskalaan otomatis, penyajian model perusahaan yang aman, serta dukungan untuk pengemasan model sumber terbuka. Baseten membantu tim teknik dan pembelajaran mesin mengelola kebutuhan operasional infrastruktur model agar dapat berfokus pada pengembangan model khusus domain. Perusahaan ini bergerak di bidang kecerdasan buatan, SaaS, dan teknologi perusahaan, dengan tim yang terdiri dari 11–50 karyawan.

Manajer Teknik, Kinerja Inferensi GPU di Baseten

Memimpin rekayasa kinerja inferensi GPU di Baseten, perusahaan infrastruktur AI. Mengarahkan optimasi runtime, efisiensi model, dan pertumbuhan tim teknis khusus.

Deskripsi

  • Mengelola, membimbing, dan mengembangkan teknisi kinerja inferensi melalui pertemuan empat mata rutin, pemberian umpan balik, perencanaan karier, dan evaluasi kinerja
  • Merekrut teknisi GPU dan inferensi sekaligus membangun budaya tim yang kolaboratif
  • Memiliki tanggung jawab atas peta jalan kinerja runtime dan pelaksanaannya
  • Meninjau desain teknis, mengarahkan pekerjaan pembuatan profil dan optimasi, serta membantu teknisi menilai penggunaan waktu dan memori
  • Menerapkan kuantisasi, speculative decoding, penggunaan ulang cache-KV, chunked prefill, dan penjadwalan khusus ke lingkungan produksi
  • Menerjemahkan peningkatan kinerja menjadi perbaikan terukur dalam token per jam-GPU, utilisasi, latensi, dan biaya
  • Membawa arsitektur model baru ke perangkat keras yang sedang berkembang dan menyetel kinerjanya
  • Berkolaborasi dengan tim Infrastruktur, Platform Inferensi, Kernel, API Model, dan tim yang berhadapan dengan pelanggan untuk memprioritaskan pekerjaan, mengoordinasikan peluncuran, dan memberikan peningkatan
  • Menetapkan standar teknik untuk kualitas, benchmarking, keunggulan operasional, dan respons insiden
  • Memajukan optimasi inferensi agentik, kernel agentik, pelatihan model speculative decoding, dan Baseten Inference Stack

Persyaratan

  • Gelar sarjana, magister, atau doktor dalam ilmu komputer, teknik, matematika, atau bidang terkait
  • Pengalaman manajemen yang mencakup perekrutan teknisi, pembimbingan, pemberian umpan balik, dan evaluasi kinerja
  • Pengalaman memimpin atau mendukung erat tim optimasi GPU dalam pelatihan, inferensi, atau sistem rekomendasi
  • Pengetahuan teknis mendalam tentang beban kerja GPU, arsitektur, dan kompromi kinerja
  • Familiar dengan pustaka pembelajaran mesin termasuk PyTorch, TensorRT, atau TensorRT-LLM
  • Kemampuan yang terbukti dalam menetapkan peta jalan dan menyelesaikan proyek teknis kompleks bersama tim
  • Keterampilan komunikasi tertulis dan lisan yang kuat untuk menyelaraskan pemangku kepentingan lintas tim
  • Familiar dengan mesin inferensi seperti vLLM, SGLang, atau TensorRT-LLM
  • Pengalaman menerapkan metode optimasi LLM seperti kuantisasi, speculative decoding, dan continuous batching
  • Pengalaman mengembangkan atau bekerja dengan kernel GPU menggunakan CUDA, Triton, atau CUTLASS
  • Pengalaman memperbesar tim teknik selama pertumbuhan startup yang pesat
  • Pengalaman langsung sebelumnya sebagai teknisi kinerja atau sistem sebelum beralih ke manajemen

Tunjangan

  • Paket kompensasi kompetitif dengan ekuitas yang bermakna
  • Bagi karyawan di Amerika Serikat, perlindungan penuh untuk medis, gigi, dan penglihatan bagi karyawan serta tanggungannya
  • Cuti berbayar yang fleksibel, termasuk libur musim dingin bersama seluruh perusahaan
  • Cuti melahirkan dan mengasuh anak berbayar
  • Dukungan kesuburan dan pembentukan keluarga melalui Carrot
  • Bagi karyawan di Amerika Serikat, program 401(k) yang difasilitasi perusahaan
  • Kesempatan bekerja dengan berbagai startup pembelajaran mesin dan membangun koneksi industri

Lowongan Terkait

EY
Jerry

Manajer Keuangan Strategis

Jerry

Memimpin peramalan, pengembangan model operasi, dan analisis peluang untuk Jerry, penasihat berbasis AI bagi kepemilikan mobil, rumah, dan sepeda motor.

Buka
Bose Corporation

Manajer Keuangan Senior, Rantai Pasok Global

Bose Corporation

Memimpin perencanaan dan analisis keuangan untuk rantai pasok global Bose, termasuk P&L, prakiraan, dan tinjauan kinerja. Bermitra dengan pimpinan operasional dan membimbing tim kecil analis di berbagai fungsi rantai pasok.

Buka