NVIDIA
NVIDIA
NVIDIA mengembangkan teknologi komputasi terakselerasi dan kecerdasan buatan yang digunakan dalam berbagai bidang, termasuk gim, pusat data, komputasi awan, layanan kesehatan, manufaktur, otomotif, dan robotika. Pengembangannya mencakup unit pemrosesan grafis, platform AI, simulasi, serta solusi untuk berbagai industri, termasuk NVIDIA Omniverse untuk alur kerja 3D kolaboratif, NVIDIA DRIVE untuk pengembangan kendaraan otonom, dan NVIDIA Clara untuk aplikasi layanan kesehatan. Perusahaan ini menghimpun tim teknis besar yang mengembangkan infrastruktur dan perangkat lunak pendukung komputasi canggih, simulasi, serta analitik berbasis AI.

Insinyur Perangkat Lunak Pembelajaran Mendalam Senior, Inferensi

Bangun dan optimalkan perangkat lunak berakselerasi GPU untuk inferensi AI skala besar di NVIDIA. Tingkatkan kerangka kerja penyajian sumber terbuka dan kinerja model di berbagai akselerator NVIDIA.

Deskripsi

  • Bangun dan optimalkan perangkat lunak berakselerasi GPU untuk aplikasi AI.
  • Kembangkan dan pelihara kerangka kerja sumber terbuka untuk penyajian model dan inferensi skala besar.
  • Tingkatkan platform inferensi dan dukung penerapan serta penyajian model bahasa.
  • Terapkan algoritme baru untuk dirilis melalui kerangka kerja inferensi.
  • Dorong peningkatan kinerja untuk model LLM dan AI generatif tingkat lanjut di berbagai akselerator NVIDIA.
  • Gunakan alat seperti CUTLASS, OAI Triton, NCCL, dan kernel CUDA untuk mengoptimalkan alur kerja penyajian model.
  • Analisis dan optimalkan model pembelajaran mendalam dalam bidang LLM, multimodal, dan AI generatif.
  • Skalakan kinerja model di berbagai arsitektur dan jenis akselerator NVIDIA.
  • Berkontribusi pada fitur dan kode untuk pustaka inferensi NVIDIA, vLLM, SGLang, FlashInfer, dan perangkat lunak LLM.
  • Bekerja sama dengan tim di bidang kerangka kerja, pustaka NVIDIA, dan solusi optimasi inferensi.

Persyaratan

  • Gelar magister, PhD, atau pengalaman setara di bidang yang relevan seperti teknik komputer, ilmu komputer, EECS, atau AI.
  • Setidaknya lima tahun pengalaman pengembangan perangkat lunak yang relevan.
  • Keterampilan pemrograman C/C++ dan desain perangkat lunak yang kuat.
  • Pengalaman dalam pengembangan perangkat lunak tangkas menjadi nilai tambah.
  • Pengalaman dengan Python menjadi nilai tambah.
  • Pengalaman produksi dalam melatih, menerapkan, atau mengoptimalkan inferensi model pembelajaran mendalam menjadi nilai tambah.
  • Pengalaman dalam pemodelan kinerja, pembuatan profil, debugging, dan optimasi kode, atau pengetahuan tentang arsitektur CPU dan GPU, menjadi nilai tambah.
  • Pengalaman pemrograman GPU dengan CUDA, OAI Triton, atau CUTLASS menjadi nilai tambah.
  • Pengalaman berkontribusi pada proyek perangkat lunak pembelajaran mendalam seperti PyTorch, vLLM, atau SGLang.
  • Pengalaman dengan komunikasi multi-GPU, termasuk NCCL atau NVSHMEM.

Tunjangan

  • Paket tunjangan komprehensif.
  • Kepemilikan saham.

Lowongan Terkait