Cerebras
Cerebras
501 – 1.000 Zaposlenici
HardverSaaSUmjetna inteligencija
Cerebras razvija AI hardver na razini cijele silicijske pločice i integrirani softver za visokoučinkovito treniranje i izvođenje modela. Njegov Wafer-Scale Engine pokreće sustav CS-3 i Cerebras Inference Cloud, koji podržava radne tijekove kompatibilne s OpenAI API-jem te implementaciju u lokalnim, oblačnim i rubnim okruženjima. Platforma tvrtke namijenjena je aplikacijama kao što su posluživanje modela, fino ugađanje, prethodno treniranje, AI agenti u stvarnom vremenu, genomika, otkrivanje lijekova, kibernetička sigurnost i korporativno pretraživanje. Cerebras objedinjuje specijalizirane čipove, sustave i softver za organizacije koje izrađuju i pokreću zahtjevna opterećenja umjetne inteligencije, a njegov tim broji 501 do 1.000 zaposlenika.

Inženjer strojnog učenja, pokretanje modela

Prenosite transformatorske modele na akceleratorski hardver Cerebras AI i optimizirajte performanse njihove inferencije. Razvijajte MLIR putanje kompajlera uz poboljšavanje ispravnosti modela, latencije, propusnosti i učinkovitosti memorije.

Opis

  • Uvodite nove modele u produkciju analizom arhitektura, pretvaranjem težina, implementacijom putanja izvršavanja i provjerom rezultata u odnosu na referentne implementacije.
  • Spuštajte modele na hardver Cerebras pomoću MLIR dijalekata, transformacija grafova, faza spuštanja i mapiranja specifičnih za hardver.
  • Podržavajte pažnju, množenje matrica, normalizaciju, pozicijska ugrađivanja i druge operatore razvojem kompajlera i kernela.
  • Optimizirajte spajanje operatora, rasporede tenzora, tiling, alokaciju memorije, prijenos podataka i paralelno izvršavanje.
  • Poboljšavajte performanse prefill i decode faza podešavanjem upravljanja KV predmemorijom, grupiranja i kvantizacije radi bolje latencije, propusnosti i iskorištenja memorije.
  • Analizirajte numerička odstupanja i procjenjujte kako promjene preciznosti i optimizacije kompajlera utječu na točnost.
  • Koristite profilere, tragove izvršavanja i hardverske brojače za pronalaženje uskih grla u računanju, memoriji, komunikaciji i izvršnom okruženju.
  • Surađujte s timovima za hardver, kompajler, kernele i izvršno okruženje kako biste isporučili pouzdanu podršku modelima i reproducibilne referentne testove performansi.

Zahtjevi

  • Izvrsno poznavanje programiranja u C++ i Pythonu.
  • Praktično iskustvo u pokretanju i otklanjanju pogrešaka u modelima strojnog učenja u PyTorchu ili usporedivom okviru.
  • Praktično iskustvo s MLIR-om, uključujući dijalekte, obrasce prepisivanja, transformacijske faze i cjevovode spuštanja.
  • Poznavanje osnova kompajlera, uključujući međureprezentacije, analizu toka podataka i generiranje koda.
  • Razumijevanje transformatorskih arhitektura, mehanizama pažnje, tenzorskih operacija i numeričke preciznosti.
  • Iskustvo u profiliranju i optimizaciji radnih opterećenja na GPU-ovima ili drugim AI akceleratorima.
  • Sposobnost dijagnosticiranja problema ispravnosti i performansi kroz kod modela, izlaz kompajlera, kernele i izvršavanje u runtimeu.
  • Iskustvo s inferencijom velikih jezičnih modela, uključujući GQA, pažnju s kliznim prozorom, mixture-of-experts, KV predmemoriranje i spekulativno dekodiranje.
  • Iskustvo s FP16, BF16, FP8 ili kvantizacijom s malim brojem bitova te njihovim kompromisima između točnosti i performansi.
  • Iskustvo u razvoju akceleratorskih kernela ili pozadinskih sustava kompajlera specifičnih za hardver.
  • Poznavanje distribuiranog izvršavanja, paralelizma modela i memorijskih hijerarhija akceleratora.
  • Doprinosi projektima MLIR, LLVM, okvirima za inferenciju ili povezanim open-source projektima.

Pogodnosti

  • Stabilno zaposlenje u okruženju s tempom startupa.
  • Mogućnosti objavljivanja naprednih istraživanja u području umjetne inteligencije i njihova objavljivanja kao otvorenog koda.
  • Rad s jednim od najbržih superračunala za AI na svijetu.
  • Izravna, nekorporativna kultura koja poštuje individualna uvjerenja.
  • Kontinuirano učenje, profesionalni razvoj i podrška.
  • Pravedno i raznoliko radno okruženje.

Povezani poslovi

NVIDIA

NVIDIA Inženjer sistemskog softvera za performanse – rad na daljinu

NVIDIA

Optimizirajte performanse NVIDIA CPU-a za podatkovne centre sljedeće generacije i CPU-GPU superčipova temeljenih na ARM SoC-ovima. Analizirajte uska grla, mjerila i radna opterećenja na konkurentskim procesorima.

Otvori
CYOS Solutions

Viši AI i cloud inženjer — hibridni rad, Australija

CYOS Solutions
11 – 50 Zaposlenici
LogistikaMarketingSavjetovanje

Izrađujte sigurne platforme za umjetnu inteligenciju, strojno učenje i cloud za Services Australia. Vodite skalabilno inženjerstvo, MLOps, infrastrukturu i upravljanje u hibridnim okruženjima.

Otvori
CYOS Solutions

Viši AI inženjer, cloud AI

CYOS Solutions
11 – 50 Zaposlenici
LogistikaMarketingSavjetovanje

Izgrađujte sigurne poslovne AI i cloud platforme za Services Australia. Isporučujte MLOps, automatizaciju infrastrukture i hibridna cloud rješenja za usluge australske vlade.

Otvori
CYOS Solutions

Viši AI inženjer, cloud AI

CYOS Solutions
11 – 50 Zaposlenici
LogistikaMarketingSavjetovanje

Izrađujte sigurne platforme za AI i strojno učenje te infrastrukturu u oblaku za Services Australia. Vodite skalabilna rješenja usklađena s propisima u javnom oblaku, lokalnom okruženju i hibridnim sustavima.

Otvori