adaption
adaption
adaption izstrādā adaptīvas mākslīgā intelekta sistēmas un rīkus, kas paredzēti intelekta pielāgošanai individuāliem lietotājiem, valodām, nozarēm un specializētiem nestandarta gadījumiem. Uzņēmuma darbs aptver adaptīvus datus, adaptīvu intelektu un adaptīvas saskarnes. Šīs pieejas palīdz modeļiem nepārtraukti pielāgoties un nodrošināt atsaucīgāku lietotāju pieredzi, mazāk paļaujoties uz manuālu uzvedņu veidošanu vai vienu monolītu modeli. Uzņēmuma tehnoloģija ir nozīmīga organizācijām, kas meklē praktiskus mākslīgā intelekta pielietojumus, piemēram, konsultāciju, loģistikas un mārketinga jomā.

Inferenču inženieris — Adaption (hibrīddarbs, Bay Area)

Optimizējiet inferenču infrastruktūru caurlaidspējai, izmaksām un latentumam uzņēmumā Adaption, kas izstrādā adaptīvas intelekta sistēmas. Uzlabojiet modeļu apkalpošanu GPU, inferenču dzinējos un ražošanas slodzēs.

Apraksts

  • Uzņemieties atbildību par inferenču steka izmaksām un veiktspēju.
  • Palieliniet caurlaidspēju un samaziniet izmaksas un astes latentumu, izmantojot KV kešatmiņas pārvaldību, nepārtrauktu pakešu veidošanu, spekulatīvo dekodēšanu un kvantēšanu.
  • Optimizējiet gara konteksta priekšielādes un dekodēšanas slodzes, balstoties uz reālu ražošanas datplūsmu.
  • Pielāgojiet maršrutēšanu starp iekšējo infrastruktūru un ārējiem pakalpojumu sniedzējiem atbilstoši izmaksām, jaudai un veiktspējai.
  • Izmantojiet apkalpošanas dzinējus, tostarp vLLM, SGLang un TensorRT-LLM, un vajadzības gadījumā strādājiet zem ietvara līmeņa.
  • Izstrādājiet profilēšanas un mērījumu sistēmas laika, atmiņas un skaitļošanas resursu izmantojuma noteikšanai.
  • Cieši sadarbojieties ar inženieriem, kuri ir atbildīgi par apkalpošanas floti.

Prasības

  • Jums ir vismaz piecu gadu pieredze ML sistēmās, inferenču infrastruktūrā vai veiktspējas inženierijā, kā arī izmērāmi izmaksu vai latentuma uzlabojumi.
  • Jums ir padziļinātas zināšanas par modeļu apkalpošanu, tostarp priekšielādi un dekodēšanu, atmiņas joslas platumu, pakešu veidošanu un vienlaicīgumu.
  • Jums ir ražošanas pieredze ar tādiem apkalpošanas dzinējiem kā vLLM, SGLang vai TensorRT-LLM.
  • Pārliecinoši izmantojat Python un pārvaldāt C++, Rust vai citu sistēmu programmēšanas valodu.
  • Izprotat GPU veiktspējas tēmas, tostarp CUDA, NCCL, jauktu precizitāti, atmiņas izkārtojumu, kodolus vai kvantēšanu.
  • Spējat strādāt klātienē Bay Area reģionā hibrīda darba modelī.

Priekšrocības

  • Apvienojiet klātienes sadarbību Bay Area reģionā ar izkliedētu, globāli orientētu komandu un komandas pasākumiem ārpus biroja.
  • Saņemiet ikgadēju Adaption Passport ceļojumu pabalstu, lai iepazītu valsti, kuru iepriekš neesat apmeklējis.
  • Saņemiet iknedēļas pabalstu līdzņemšanai paredzētām maltītēm vai pārtikas preču piegādei.
  • Izmantojiet visaptverošu medicīnisko segumu un dāsnu apmaksātu atvaļinājumu.

Saistītās vakances

Qwello

Junior Account Manager – Qwello, Hybrid in Amersfoort

Qwello
11 – 50 Darbinieki
AutobūveRažošanaTransports

Support Qwello’s municipal accounts and help coordinate proposals, tenders and public EV charging projects. Work with the sales team and project delivery colleagues in a hybrid role based in Amersfoort.

Atvērt