Normal Computing
Normal Computing
51 – 200 Zaposlenici
Dostupne informacije o profilu navode da je tvrtka Normal Computing osnovana 2022. godine, ali ne opisuju njezine proizvode, usluge, djelatnost ni kontekst zapošljavanja. Za koristan pregled namijenjen kandidatima za posao potrebno je više pojedinosti o tvrtki.

Inženjer runtimea za AI hardver

Razvijajte runtime softver za memorijski orijentirani AI hardver tvrtke Normal Computing. Vodite arhitekturu, apstrakciju hardvera i performanse LLM inferencije.

Opis

  • Vodite arhitekturu runtimea kroz upravljanje uređajima, alokaciju memorije, prijenose između računala i uređaja, učitavanje izvršnih datoteka i slanje naredbi.
  • Razvijajte runtime za simulatore i FPGA prototipove kroz dosljedno sučelje prije dostupnosti silicija.
  • Apstrahirajte razlike između simulatora, FPGA prototipova, silicija i budućih generacija hardvera.
  • Upravljajte stanjem uređaja pohranjenim na hardveru, uključujući težine modela koje ostaju u memoriji između zahtjeva.
  • Smanjite opterećenje runtimea na kritičnom putu LLM inferencije kako biste poboljšali ukupnu latenciju i propusnost.
  • Definirajte sučelja za komponente prevoditelja, upravljačkog programa i programske podrške.
  • Usmjeravajte tehnički razvoj runtimea i pregledavajte dizajne koji ovise o njemu.
  • Surađujte s inženjerima prevoditelja i posluživanju modela kako biste oblikovali učinkovita sučelja.

Zahtjevi

  • Iskustvo u razvoju runtimea, upravljačkih programa ili slojeva apstrakcije hardvera za akceleratore ili drugi specijalizirani hardver.
  • Napredno znanje sistemskog programiranja u C++-u ili Rustu, uključujući upravljanje memorijom, konkurentnost i niskorazinske performanse.
  • Dokazano preuzimanje odgovornosti za složenu sistemsku komponentu od dizajna do produkcije.
  • Iskustvo u vođenju tehničkih odluka među timovima.
  • Razumijevanje radnih opterećenja LLM inferencije i potreba runtimea.
  • Sposobnost razvoja softvera za hardver koji se mijenja, od simulacije do pokretanja i provjere rada.
  • Prednost je poznavanje otvorenih dizajna runtimea kao što je IREE HAL ili internih mehanizama runtimea CUDA-e ili ROCm-a.
  • Prednost je iskustvo s računanjem u memoriji ili drugim hardverom koji ne slijedi von Neumannovu arhitekturu.
  • Prednost je iskustvo s integracijom runtimea s poslužiteljem za inferenciju, kao što je vLLM.
  • Prednost su doprinosi otvorenom runtimeu ili sistemskoj infrastrukturi.

Pogodnosti

  • Vlasnički udjeli.
  • Poticaji temeljeni na radnom učinku.
  • Sveobuhvatan paket naknada.
  • Pogodnosti namijenjene dobrobiti zaposlenika i profesionalnom razvoju.
  • Konkurentna i pravedna naknada.
  • Razumne prilagodbe za zaposlenike s invaliditetom.

Povezani poslovi

SuperAnnotate

Inženjer za automatizaciju zapošljavanja uz pomoć umjetne inteligencije

SuperAnnotate

Razvijajte procese pronalaženja, provjere i zapošljavanja stručnjaka uz pomoć umjetne inteligencije za SuperAnnotateovu radnu snagu koja obrađuje ljudske podatke. Vodite skalabilne tijekove rada, integracije, analitiku i sustave za kontaktiranje kandidata.

Otvori
Provectus

Suradnik/ca inženjer/ka za implementaciju kod klijenata u Provectusu (hibridno)

Provectus

Pomozite klijentima Provectusa primijeniti Claude, agentske sustave i produkcijske AI procese. Upoznajte način rada klijentskih timova i isporučujte evaluirana rješenja na AWS-u.

Otvori
Arcadis

Inženjer zaštite okoliša, znanstvenik ili inženjer — San Luis Obispo

Arcadis

Pridružite se Arcadisu na početnoj poziciji i sudjelujte u projektima održive sanacije i inženjerstva. Posao obuhvaća terenska istraživanja, nadzor sustava za obradu, analizu podataka i odgovor na hitne situacije.

Otvori