LogoFresh Jobs Ahead
adaption
adaption
1 – 10 Wafanyakazi
MasokoUsafirishajiUshauri
adaption hutengeneza mifumo na zana za AI zinazobadilika, zilizoundwa ili kuoanisha akili na watumiaji binafsi, lugha, sekta na hali maalum. Kazi yake inajumuisha Adaptive Data, Adaptive Intelligence na Adaptive Interfaces—mbinu zinazosaidia miundo kuendelea kujirekebisha na kutoa uzoefu unaoitikia zaidi kwa watumiaji bila kutegemea sana uandishi wa maelekezo kwa mikono au modeli moja kubwa isiyogawanywa. Teknolojia ya kampuni hii inafaa kwa mashirika yanayochunguza matumizi ya vitendo ya AI katika maeneo kama ushauri, usafirishaji na masoko.
LinkedIn
Kazi za Kampuni

Mhandisi wa Inference — Adaption (Mseto, Bay Area)

Boresha miundombinu ya inference kwa ajili ya throughput, gharama na latency katika Adaption, kampuni ya AI inayotengeneza mifumo ya akili inayojibadilisha. Boresha uwasilishaji wa modeli kwenye GPU, injini za inference na mizigo ya kazi ya uzalishaji.

USMarekaniCACaliforniaMsetoMuda woteKiwango cha katiMwandamiziLugha Inayohitajika: KiingerezaMhandisi
C++PythonRust

Maelezo

  • Kuongoza uwajibikaji wa gharama na utendaji wa mfumo wa inference.
  • Kuongeza throughput na kupunguza gharama pamoja na tail latency kupitia usimamizi wa KV-cache, continuous batching, speculative decoding na quantization.
  • Kuboresha mizigo ya kazi ya prefill na decode yenye muktadha mrefu kwa kutumia trafiki halisi ya uzalishaji.
  • Kurekebisha uelekezaji kati ya miundombinu ya ndani na watoa huduma wa nje kulingana na gharama, uwezo na utendaji.
  • Kutumia injini za serving kama vLLM, SGLang na TensorRT-LLM, na kufanya kazi chini ya framework inapohitajika.
  • Kutengeneza mifumo ya profiling na vipimo ili kubaini matumizi ya muda, kumbukumbu na compute.
  • Kushirikiana kwa karibu na wahandisi wanaowajibika kwa fleet ya serving.

Mahitaji

  • Kuwa na angalau miaka mitano ya uzoefu katika mifumo ya ML, miundombinu ya inference au uhandisi wa utendaji, pamoja na maboresho yanayopimika ya gharama au latency.
  • Kuonyesha uelewa wa kina wa model serving, ikiwemo prefill na decode, memory bandwidth, batching na concurrency.
  • Kuwa na uzoefu wa uzalishaji wa kutumia injini za serving kama vLLM, SGLang au TensorRT-LLM.
  • Kutumia Python kwa ujasiri na kuwa mahiri katika C++, Rust au lugha nyingine ya systems programming.
  • Kuelewa mada za utendaji wa GPU zikiwemo CUDA, NCCL, mixed precision, memory layout, kernels au quantization.
  • Kuweza kufanya kazi ana kwa ana Bay Area katika mpangilio wa mseto.

Manufaa

  • Kuchanganya ushirikiano wa ana kwa ana Bay Area na timu iliyosambazwa inayolenga dunia nzima, pamoja na team offsites.
  • Kupokea posho ya kila mwaka ya usafiri ya Adaption Passport kwa ajili ya kuchunguza nchi ambayo hujawahi kutembelea.
  • Kupata posho ya kila wiki kwa chakula cha kuagiza au usafirishaji wa bidhaa za vyakula.
  • Kupata huduma kamili ya matibabu na muda mwingi wa likizo yenye malipo.

Kazi Zinazohusiana