LogoFresh Jobs Ahead
adaption
adaption
1 – 10 Karyawan
KonsultasiLogistikPemasaran
adaption mengembangkan sistem dan perangkat AI adaptif yang dirancang untuk menyesuaikan kecerdasan dengan pengguna individu, bahasa, industri, dan kasus khusus. Pekerjaannya mencakup Adaptive Data, Adaptive Intelligence, dan Adaptive Interfaces—pendekatan yang membantu model beradaptasi secara berkelanjutan serta mendukung pengalaman pengguna yang lebih responsif tanpa terlalu bergantung pada pemberian prompt secara manual atau satu model monolitik. Teknologi perusahaan ini relevan bagi organisasi yang mengeksplorasi penerapan AI praktis di berbagai bidang seperti konsultasi, logistik, dan pemasaran.
LinkedIn
Lowongan Perusahaan

Insinyur Inferensi — Adaption (Hibrida, Bay Area)

Optimalkan infrastruktur inferensi untuk throughput, biaya, dan latensi di Adaption, perusahaan AI yang mengembangkan sistem kecerdasan adaptif. Tingkatkan penyajian model di berbagai GPU, mesin inferensi, dan beban kerja produksi.

USAmerika SerikatCACaliforniaHibridaPenuh waktuMenengahSeniorBahasa Wajib: InggrisInsinyur
C++PythonRust

Deskripsi

  • Memimpin tanggung jawab atas biaya dan kinerja tumpukan inferensi.
  • Meningkatkan throughput serta mengurangi biaya dan latensi ekor melalui pengelolaan KV-cache, batching berkelanjutan, speculative decoding, dan kuantisasi.
  • Mengoptimalkan beban kerja prefill dan decode dengan konteks panjang berdasarkan lalu lintas produksi nyata.
  • Menyesuaikan perutean antara infrastruktur internal dan penyedia eksternal sesuai biaya, kapasitas, dan kinerja.
  • Menggunakan mesin penyajian termasuk vLLM, SGLang, dan TensorRT-LLM, serta bekerja di bawah lapisan framework bila diperlukan.
  • Mengembangkan sistem pembuatan profil dan pengukuran untuk menemukan penggunaan waktu, memori, dan komputasi.
  • Berkolaborasi erat dengan para insinyur yang bertanggung jawab atas armada penyajian.

Persyaratan

  • Memiliki setidaknya lima tahun pengalaman dalam sistem ML, infrastruktur inferensi, atau rekayasa kinerja, dengan peningkatan biaya atau latensi yang terukur.
  • Menunjukkan pengetahuan mendalam tentang penyajian model, termasuk prefill dan decode, bandwidth memori, batching, dan konkurensi.
  • Memiliki pengalaman produksi dengan mesin penyajian seperti vLLM, SGLang, atau TensorRT-LLM.
  • Menggunakan Python dengan percaya diri dan mahir dalam C++, Rust, atau bahasa pemrograman sistem lainnya.
  • Memahami topik kinerja GPU termasuk CUDA, NCCL, presisi campuran, tata letak memori, kernel, atau kuantisasi.
  • Mampu bekerja secara langsung di Bay Area dalam pengaturan hibrida.

Tunjangan

  • Memadukan kolaborasi langsung di Bay Area dengan tim global-first yang terdistribusi dan acara luar kantor tim.
  • Menerima tunjangan perjalanan tahunan Adaption Passport untuk menjelajahi negara yang belum pernah dikunjungi sebelumnya.
  • Mendapatkan tunjangan mingguan untuk makanan pesan antar atau pengiriman bahan makanan.
  • Mendapatkan akses ke perlindungan medis komprehensif dan cuti berbayar yang besar.

Lowongan Terkait