Baseten
Baseten
Baseten, makine öğrenimi ve yapay zekâ uygulamaları geliştiren şirketler için model çıkarımı altyapısı sunar. Platformu; yüksek hacimli çıkarım, hızlı dağıtım, otomatik ölçeklendirme, güvenli kurumsal model sunumu ve açık kaynaklı modellerin paketlenmesine yönelik destek özelliklerini bir araya getirerek hızlı ve ölçeklenebilir sunum için tasarlanmıştır. Baseten, mühendislik ve makine öğrenimi ekiplerinin model altyapısının operasyonel gereksinimlerini yönetmesine yardımcı olur; böylece ekipler alana özgü modeller geliştirmeye odaklanabilir. Şirket yapay zekâ, SaaS ve kurumsal teknoloji alanlarında faaliyet gösterir ve 11–50 kişilik bir ekibe sahiptir.

Baseten'de GPU Çıkarım Performansı Mühendislik Müdürü

Bir yapay zekâ altyapısı şirketi olan Baseten'de GPU çıkarım performansı mühendisliğine liderlik edin. Çalışma zamanı optimizasyonunu, model verimliliğini ve uzman bir teknik ekibin gelişimini yönlendirin.

Açıklama

  • Çıkarım performansı mühendislerini düzenli bire bir görüşmeler, geri bildirim, kariyer planlaması ve performans değerlendirmeleri yoluyla yönetin, geliştirin ve destekleyin
  • GPU ve çıkarım mühendislerini işe alın ve iş birliğine dayalı bir ekip kültürü oluşturun
  • Çalışma zamanı performansı yol haritasını ve uygulanmasını sahiplenin
  • Teknik tasarımları inceleyin, profil oluşturma ve optimizasyon çalışmalarını yönlendirin; mühendislerin zaman ve bellek kullanımını değerlendirmesine yardımcı olun
  • Niceleme, spekülatif kod çözme, KV önbelleğinin yeniden kullanımı, parçalı ön doldurma ve özel zamanlamayı üretim ortamına taşıyın
  • Performans kazanımlarını GPU-saat başına belirteç sayısı, kullanım oranı, gecikme süresi ve maliyette ölçülebilir iyileştirmelere dönüştürün
  • Yeni model mimarilerini gelişmekte olan donanımlara taşıyın ve performanslarını ayarlayın
  • Çalışmaları önceliklendirmek, lansmanları koordine etmek ve iyileştirmeler sunmak için Altyapı, Çıkarım Platformu, Çekirdekler, Model API'leri ve müşteriyle yüz yüze ekiplerle iş birliği yapın
  • Kalite, kıyaslama, operasyonel mükemmellik ve olaylara müdahale için mühendislik standartları oluşturun
  • Aracılı çıkarım optimizasyonunu, aracılı çekirdekleri, spekülatif kod çözme modeli eğitimini ve Baseten Çıkarım Yığını'nı geliştirin

Gereksinimler

  • Bilgisayar bilimi, mühendislik, matematik veya ilgili bir alanda lisans, yüksek lisans ya da doktora derecesi
  • Mühendis işe alımı, mentorluk, geri bildirim ve performans değerlendirmelerini kapsayan yöneticilik deneyimi
  • Eğitim, çıkarım veya öneri sistemlerinde GPU optimizasyon ekiplerine liderlik etme ya da bu ekipleri yakından destekleme deneyimi
  • GPU iş yükleri, mimarisi ve performans ödünleşimleri hakkında derin teknik bilgi
  • PyTorch, TensorRT veya TensorRT-LLM gibi makine öğrenimi kütüphanelerine aşinalık
  • Yol haritaları oluşturma ve karmaşık teknik projeleri bir ekiple hayata geçirme becerisi
  • Ekipler arası paydaşları uyumlandırmak için güçlü yazılı ve sözlü iletişim becerileri
  • vLLM, SGLang veya TensorRT-LLM gibi çıkarım motorlarına aşinalık
  • Niceleme, spekülatif kod çözme ve sürekli gruplama gibi LLM optimizasyon yöntemlerini uygulama deneyimi
  • CUDA, Triton veya CUTLASS kullanarak GPU çekirdekleri geliştirme ya da bunlarla çalışma deneyimi
  • Hızlı bir girişim büyümesi sırasında mühendislik ekibini ölçeklendirme deneyimi
  • Yöneticiliğe geçmeden önce performans veya sistem mühendisi olarak uygulamalı çalışma deneyimi

Yan Haklar

  • Rekabetçi ücret paketi ve anlamlı miktarda hisse
  • ABD çalışanları için çalışanları ve bakmakla yükümlü oldukları kişileri kapsayan kapsamlı sağlık, diş ve görme sigortası
  • Şirket genelindeki kış tatili de dâhil esnek ücretli izin
  • Ücretli ebeveyn izni
  • Carrot aracılığıyla doğurganlık ve aile kurma desteği
  • ABD çalışanları için şirket aracılığıyla sunulan 401(k) planı
  • Çeşitli makine öğrenimi girişimleriyle çalışma ve sektörel bağlantılar kurma fırsatları

İlgili İş İlanları

General Dynamics Information Technology

Vezető autonómiai AI-rendszerintegrátor

General Dynamics Information Technology

Autonóm AI-rendszerek integrációját vezeti pilóta nélküli repülőgépeken, járműrajokban, peremhálózati platformokon és vezetési-irányítási környezetekben. A General Dynamics Information Technology vállalatnál összekapcsolja a missziós munkafolyamatokat a reziliens autonómiával, az AI/ML-modellekkel és a harcászati rendszerekkel.

Aç
CMG (Capital Markets Gateway)

Kıdemli Frontend Mühendisi, Analitik Ürün Lideri

CMG (Capital Markets Gateway)
51 – 200 Çalışanlar
DanışmanlıkFintekLojistik

CMG’nin DataLab analitik ürünü için frontend geliştirmesine liderlik ederek sermaye piyasası platformuna yönelik React ve TypeScript arayüzlerini şekillendirin. Frontend mimarisi, test, erişilebilirlik ve teknik uygulamalar için yön belirleyin.

Aç
Commit

Yerinde Tier 2 BT Destek Mühendisi

Commit

Singapur ofisine ve APAC kullanıcılarına donanım, Microsoft 365, Okta, toplantı odası AV sistemleri ve ITSM talepleri konusunda destek verir. Çalışanların işe giriş ve işten çıkış süreçleri, dizüstü bilgisayar hazırlığı ve envanter takibi de sorumlulukları arasındadır.

Aç