LogoFresh Jobs Ahead
STN Incorporated
STN Incorporated
11 – 50 Pekerja
Keselamatan siberPerkakasanPerusahaan
STN Incorporated menyediakan perkhidmatan IT terurus dan infrastruktur awan untuk perusahaan serta pasukan yang membangunkan perisian, sistem AI dan robotik yang kritikal kepada perniagaan. Perkhidmatannya merangkumi awan CPU persendirian, infrastruktur AI GPU One, rangkaian dan storan yang selamat, serta operasi awan berterusan dengan sokongan manusia 24/7 dan perjanjian tahap perkhidmatan berketersediaan tinggi. Syarikat ini turut mengendalikan operasi keselamatan siber dan tindak balas insiden, pengurusan pematuhan dan risiko, sandaran dan pemulihan, serta perolehan teknologi dan pengurusan kitar hayat. STN berkhidmat untuk syarikat SaaS, pembina AI dan pembangun model, firma robotik, serta organisasi terkawal termasuk penyedia penjagaan kesihatan, dengan infrastruktur yang direka untuk menyokong kesiapsiagaan audit dan rangka kerja seperti SOC 2 Type II dan HIPAA.
LinkedIn
Pekerjaan Syarikat

Ketua Kanan Pengoptimuman Beban Kerja Inferens

Pimpin penalaan prestasi GPU untuk beban kerja AI pelanggan pada platform pusat data autonomi STN. Terjemahkan kepakaran pengoptimuman kepada pembaikan yang boleh dilaksanakan ejen dan selia penyajian model dalaman.

USAmerika SyarikatJarak jauhSepenuh masaSeniorBahasa Diperlukan: InggerisKecerdasan buatan

Penerangan

  • Analisis beban kerja latihan dan inferens pelanggan untuk mengenal pasti halangan prestasi merentas pemuatan data, komunikasi kolektif, lebar jalur memori, kernel, pemprosesan kelompok dan pemprosesan selari.
  • Tetapkan garis dasar prestasi bagi setiap generasi perkakasan, bermula dengan sistem NVIDIA generasi semasa.
  • Terjemahkan kepakaran pengoptimuman kepada pembaikan yang boleh digunakan ejen merentas kluster pelanggan.
  • Tala beban kerja bersama pelanggan yang mempunyai kapasiti terjamin, secara langsung atau melalui pasukan operasi mereka.
  • Sebagai tanggungjawab sekunder, urus penyajian model dalaman, termasuk penghalaan yang mengambil kira kos dan kependaman serta migrasi versi model.
  • Beri nasihat tentang pengagihan GPU antara inferens dalaman dengan beban kerja pelanggan.

Keperluan

  • Mempunyai kepakaran mendalam dalam kejuruteraan prestasi GPU, termasuk pemprofilan, tingkah laku memori dan lebar jalur, serta pemahaman pada peringkat kernel.
  • Mempunyai pengetahuan praktikal tentang tindanan penyajian seperti vLLM, SGLang atau TensorRT-LLM, termasuk pemprosesan kelompok, pengurusan cache KV dan pertukaran kuantisasinya.
  • Berpengalaman dalam latihan dan inferens teragih pada skala besar, termasuk pemprosesan selari tensor, saluran paip dan data.
  • Berpengalaman menala komunikasi kolektif seperti NCCL.
  • Mahir menggunakan alat pemprofilan seperti Nsight, DCGM dan pemprofil peringkat rangka kerja.
  • Mampu menerangkan dapatan prestasi kepada pelanggan dan merumuskan penyelesaian untuk ejen.
  • Kelebihan tambahan: pembangunan kernel CUDA, penggunaan model pemberat terbuka berskala besar, reka bentuk penanda aras dan pengalaman teknikal berhadapan dengan pelanggan.

Pekerjaan Berkaitan

CDW

Jurutera Perunding Infrastruktur AI, Pengkomputeran dan Storan

CDW
Penaja Visa H1BPendidikanPenjagaan kesihatanPerundingan
USAmerika Syarikat
$77,725 – $108,265 / tahun
Jarak jauhSepenuh masaPertengahanSeniorBahasa Diperlukan: InggerisKecerdasan buatan
KubernetesLinuxNFS

Mereka bentuk dan mengesahkan penyelesaian pengkomputeran GPU dan storan berprestasi tinggi untuk beban kerja AI dan pembelajaran mesin perusahaan. Membantu pelanggan CDW melaksanakan infrastruktur bagi latihan AI, penalaan halus dan inferens.

Buka