adaption, zekâyı bireysel kullanıcılara, dillere, sektörlere ve özel durumlara uyarlamak üzere tasarlanmış uyarlanabilir yapay zekâ sistemleri ve araçları geliştirir. Çalışmaları; modellerin sürekli uyum sağlamasına ve manuel yönlendirmeye ya da tek bir bütünleşik modele daha az ihtiyaç duyan, daha duyarlı kullanıcı deneyimlerine destek olan Uyarlanabilir Veri, Uyarlanabilir Zekâ ve Uyarlanabilir Arayüz yaklaşımlarını kapsar. Şirketin teknolojisi; danışmanlık, lojistik ve pazarlama gibi alanlarda pratik yapay zekâ uygulamalarını araştıran kuruluşlar için önem taşır.
Çıkarım Mühendisi — Adaption (Hibrit, Körfez Bölgesi)
Adaption’da yapay zekâ şirketinin uyarlanabilir zekâ sistemleri için çıkarım altyapısını verim, maliyet ve gecikme açısından optimize edin. GPU’lar, çıkarım motorları ve üretim iş yükleri genelinde model sunumunu geliştirin.
Açıklama
- Çıkarım yığınının maliyet ve performans sahipliğini üstlenin.
- KV önbelleği yönetimi, sürekli toplu işleme, spekülatif kod çözme ve niceleme yoluyla verimi artırın, maliyeti ve kuyruk gecikmesini azaltın.
- Uzun bağlamlı ön doldurma ve kod çözme iş yüklerini gerçek üretim trafiğine göre optimize edin.
- Maliyet, kapasite ve performansa göre dahili altyapı ile harici sağlayıcılar arasındaki yönlendirmeyi ayarlayın.
- Gerektiğinde çerçevenin alt katmanlarıyla çalışarak vLLM, SGLang ve TensorRT-LLM gibi sunum motorlarını kullanın.
- Zaman, bellek ve işlem kullanımlarını belirlemek için profilleme ve ölçüm sistemleri geliştirin.
- Sunum filosundan sorumlu mühendislerle yakın iş birliği yapın.
Gereksinimler
- Ölçülebilir maliyet veya gecikme kazanımlarıyla birlikte makine öğrenimi sistemleri, çıkarım altyapısı veya performans mühendisliğinde en az beş yıllık deneyim getirin.
- Ön doldurma ve kod çözme, bellek bant genişliği, toplu işleme ve eşzamanlılık dâhil model sunumu konusunda derin bilgi sahibi olun.
- vLLM, SGLang veya TensorRT-LLM gibi sunum motorlarıyla üretim deneyimine sahip olun.
- Python’ı güvenle kullanın ve C++, Rust veya başka bir sistem programlama dilinde yetkin olun.
- CUDA, NCCL, karma hassasiyet, bellek yerleşimi, çekirdekler veya niceleme dâhil GPU performansı konularını anlayın.
- Hibrit çalışma düzeninde Körfez Bölgesi’nde yüz yüze çalışabilin.
Yan Haklar
- Yüz yüze Körfez Bölgesi iş birliğini, dağıtık ve küresel öncelikli bir ekip ve ekip buluşmalarıyla birleştirin.
- Daha önce ziyaret etmediğiniz bir ülkeyi keşfetmeniz için yıllık Adaption Passport seyahat ödeneği alın.
- Paket yemek veya market teslimatı için haftalık ödenekten yararlanın.
- Kapsamlı sağlık sigortasına ve cömert ücretli izin hakkına erişin.