LogoFresh Jobs Ahead
Normal Computing
Normal Computing
51 – 200 Karyawan
Informasi profil yang tersedia menyebut Normal Computing didirikan pada 2022, tetapi tidak menjelaskan produk, layanan, industri, atau konteks perekrutannya. Diperlukan lebih banyak detail khusus perusahaan untuk memberikan gambaran yang bermanfaat bagi pencari kerja.
LinkedIn
Lowongan Perusahaan

Insinyur Runtime, Perangkat Keras AI

Rancang perangkat lunak runtime untuk perangkat keras AI Normal Computing yang berpusat pada memori. Pimpin arsitektur, abstraksi perangkat keras, dan kinerja inferensi LLM.

USAmerika SerikatCACaliforniaNYNew York
$200.000 – $300.000 / tahun
HibridaPenuh waktuMenengahSeniorBahasa Wajib: InggrisInsinyur
C++Rust

Deskripsi

  • Pimpin arsitektur runtime untuk pengelolaan perangkat, alokasi memori, transfer antara host dan perangkat, pemuatan berkas eksekusi, serta pengiriman perintah.
  • Kembangkan runtime untuk simulator dan prototipe FPGA dengan antarmuka yang konsisten sebelum silikon tersedia.
  • Abstraksikan perbedaan perangkat keras pada simulator, prototipe FPGA, silikon, dan generasi mendatang.
  • Kelola status perangkat yang tersimpan di perangkat keras, termasuk bobot model yang tetap tersimpan di sana di antara permintaan.
  • Kurangi overhead runtime pada jalur kritis inferensi LLM untuk meningkatkan latensi dan throughput dari awal hingga akhir.
  • Tentukan antarmuka dengan komponen compiler, driver, dan firmware.
  • Arahkan perkembangan teknis runtime dan tinjau desain yang bergantung padanya.
  • Bekerja sama dengan engineer compiler dan serving untuk merancang antarmuka yang efektif.

Persyaratan

  • Berpengalaman mengembangkan runtime, driver, atau lapisan abstraksi perangkat keras untuk akselerator atau perangkat keras khusus lainnya.
  • Menguasai pemrograman sistem dengan C++ atau Rust, termasuk pengelolaan memori, konkurensi, dan kinerja tingkat rendah.
  • Terbukti mampu bertanggung jawab atas komponen sistem yang kompleks, mulai dari desain hingga produksi.
  • Berpengalaman memimpin pengambilan keputusan teknis lintas tim.
  • Memahami beban kerja inferensi LLM dan kebutuhan runtime-nya.
  • Nyaman mengembangkan perangkat lunak untuk perangkat keras yang terus berubah, dari simulasi hingga tahap bring-up.
  • Nilai tambah: mengenal desain runtime terbuka seperti HAL IREE atau internal runtime CUDA maupun ROCm.
  • Nilai tambah: berpengalaman dengan komputasi dalam memori atau perangkat keras non-von-Neumann lainnya.
  • Nilai tambah: berpengalaman mengintegrasikan runtime dengan server inferensi seperti vLLM.
  • Nilai tambah: pernah berkontribusi pada runtime sumber terbuka atau infrastruktur sistem.

Tunjangan

  • Saham.
  • Insentif berdasarkan kinerja.
  • Paket kompensasi yang komprehensif.
  • Tunjangan yang dirancang untuk mendukung kesejahteraan dan perkembangan profesional karyawan.
  • Kompensasi yang kompetitif dan adil.
  • Akomodasi yang wajar bagi karyawan penyandang disabilitas.

Lowongan Terkait