Baseten
Baseten
Baseten menyediakan infrastruktur inferens model untuk syarikat yang menggunakan aplikasi pembelajaran mesin dan kecerdasan buatan. Platformnya dibina untuk penyajian model yang pantas dan boleh diskalakan, dengan menggabungkan inferens berthroughput tinggi, pelancaran pantas, penskalaan automatik, penyajian model perusahaan yang selamat, serta sokongan untuk pembungkusan model sumber terbuka. Baseten membantu pasukan kejuruteraan dan pembelajaran mesin mengurus keperluan operasi infrastruktur model supaya mereka dapat memberi tumpuan kepada pembangunan model khusus domain. Syarikat ini beroperasi dalam bidang kecerdasan buatan, SaaS, dan teknologi perusahaan, dengan pasukan seramai 11–50 orang pekerja.

Pengurus Kejuruteraan, Prestasi Inferens GPU di Baseten

Memimpin kejuruteraan prestasi inferens GPU di Baseten, sebuah syarikat infrastruktur AI. Membimbing pengoptimuman masa jalan, kecekapan model, dan pertumbuhan pasukan teknikal khusus.

Penerangan

  • Mengurus, membimbing, dan membangunkan jurutera prestasi inferens melalui pertemuan satu dengan satu secara berkala, maklum balas, perancangan kerjaya, dan semakan prestasi
  • Merekrut jurutera GPU dan inferens sambil memupuk budaya pasukan yang kolaboratif
  • Memiliki peta hala tuju prestasi masa jalan serta pelaksanaannya
  • Menyemak reka bentuk teknikal, mengarahkan kerja pemprofilan dan pengoptimuman, serta membantu jurutera menilai penggunaan masa dan memori
  • Menerapkan pengkuantuman, speculative decoding, penggunaan semula cache-KV, chunked prefill, dan penjadualan tersuai ke dalam pengeluaran
  • Menterjemahkan peningkatan prestasi kepada penambahbaikan terukur dalam token setiap jam-GPU, penggunaan, kependaman, dan kos
  • Membawa seni bina model baharu ke perkakasan yang sedang muncul dan menala prestasinya
  • Bekerjasama dengan pasukan Infrastruktur, Platform Inferens, Kernel, API Model, dan pasukan berhadapan pelanggan untuk mengutamakan kerja, menyelaraskan pelancaran, dan menyampaikan penambahbaikan
  • Menetapkan piawaian kejuruteraan untuk kualiti, penanda aras, kecemerlangan operasi, dan tindak balas insiden
  • Memajukan pengoptimuman inferens agentik, kernel agentik, latihan model speculative decoding, dan Baseten Inference Stack

Keperluan

  • Ijazah sarjana muda, sarjana, atau kedoktoran dalam sains komputer, kejuruteraan, matematik, atau bidang berkaitan
  • Pengalaman pengurusan yang merangkumi pengambilan jurutera, bimbingan, maklum balas, dan semakan prestasi
  • Pengalaman memimpin atau menyokong rapat pasukan pengoptimuman GPU dalam latihan, inferens, atau sistem pengesyoran
  • Pengetahuan teknikal mendalam tentang beban kerja GPU, seni bina, dan pertukaran prestasi
  • Mahir menggunakan perpustakaan pembelajaran mesin termasuk PyTorch, TensorRT, atau TensorRT-LLM
  • Keupayaan terbukti untuk menetapkan peta hala tuju dan menyampaikan projek teknikal kompleks bersama pasukan
  • Kemahiran komunikasi bertulis dan lisan yang kukuh untuk menyelaraskan pihak berkepentingan merentas pasukan
  • Mahir menggunakan enjin inferens seperti vLLM, SGLang, atau TensorRT-LLM
  • Pengalaman menggunakan kaedah pengoptimuman LLM seperti pengkuantuman, speculative decoding, dan continuous batching
  • Pengalaman membangunkan atau bekerja dengan kernel GPU menggunakan CUDA, Triton, atau CUTLASS
  • Pengalaman membesarkan pasukan kejuruteraan semasa pertumbuhan startup yang pesat
  • Pengalaman amali terdahulu sebagai jurutera prestasi atau sistem sebelum beralih kepada pengurusan

Faedah

  • Pakej pampasan kompetitif dengan ekuiti yang bermakna
  • Bagi pekerja di Amerika Syarikat, perlindungan penuh perubatan, pergigian, dan penglihatan untuk pekerja serta tanggungan
  • Cuti berbayar yang fleksibel, termasuk rehat musim sejuk seluruh syarikat
  • Cuti ibu bapa berbayar
  • Sokongan kesuburan dan pembinaan keluarga melalui Carrot
  • Bagi pekerja di Amerika Syarikat, pelan 401(k) yang difasilitasi syarikat
  • Peluang bekerja dengan pelbagai startup pembelajaran mesin dan membina hubungan industri

Pekerjaan Berkaitan

ScriptPro

Penganalisis Sokongan Teknikal, Sistem Farmasi

ScriptPro

Menyelesaikan masalah pelanggan dari jauh merangkumi sistem farmasi ScriptPro, perkakasan, perisian dan akaun pengguna. Tugas ini meliputi penyelesaian masalah, pengurusan tiket serta sokongan untuk projek pelanggan dan penyelidikan.

Buka
Commit

Jurutera Sokongan Teknikal — Jarak Jauh di Filipina

Commit

Selesaikan masalah rangkaian, infrastruktur dan sistem pinggir yang menyokong penstriman video masa nyata serta beban kerja AI. Bantu memastikan penggunaan awan dan hibrid kekal andal melalui tindak balas insiden, diagnostik dan automasi.

Buka