LogoFresh Jobs Ahead
Normal Computing
Normal Computing
51 – 200 Ansatte
Den tilgjengelige profilinformasjonen oppgir at Normal Computing ble grunnlagt i 2022, men beskriver ikke selskapets produkter, tjenester, bransje eller ansettelseskontekst. Det trengs mer selskapsspesifikk informasjon for å gi jobbsøkere en nyttig oversikt.
LinkedIn
Jobber i bedriften

Runtimeingeniør, AI-maskinvare

Utform runtime-programvare for Normal Computings minnesentrerte AI-maskinvare, og led arbeidet med arkitektur, maskinvareabstraksjon og LLM-inferensytelse.

USUSACACaliforniaNYNew York
200 000 $ – 300 000 $ / år
HybridHeltidMellomnivåSeniorPåkrevd Språk: engelskIngeniør
C++Rust

Beskrivelse

  • Lede runtime-arkitekturen for enhetsadministrasjon, minneallokering, overføringer mellom vert og enhet, innlasting av kjørbare filer og innsending av kommandoer.
  • Utvikle runtime-programvare for simulatorer og FPGA-prototyper gjennom et enhetlig grensesnitt før silisium er tilgjengelig.
  • Abstrahere maskinvareforskjeller mellom simulatorer, FPGA-prototyper, silisium og framtidige generasjoner.
  • Administrere enhetstilstand som lagres på maskinvaren, inkludert modellvekter som blir liggende mellom forespørsler.
  • Redusere runtime-overhead i den kritiske banen for LLM-inferens for å forbedre latenstid og gjennomstrømning fra ende til ende.
  • Definere grensesnitt mot kompilator-, driver- og firmwarekomponenter.
  • Veilede den tekniske retningen for runtime-systemet og gjennomgå design som er avhengige av det.
  • Samarbeide med kompilator- og servingingeniører om å utforme effektive grensesnitt.

Krav

  • Erfaring med å utvikle runtime-systemer, drivere eller maskinvareabstraksjonslag for akseleratorer eller annen spesialisert maskinvare.
  • Sterke ferdigheter i systemprogrammering med C++ eller Rust, inkludert minnehåndtering, samtidighet og ytelse på lavt nivå.
  • Dokumentert ansvar for en kompleks systemkomponent fra design til produksjon.
  • Erfaring med å lede tekniske beslutninger på tvers av team.
  • Forståelse av LLM-inferensarbeidsbelastninger og behovene til runtime-systemer.
  • Komfortabel med å utvikle programvare for maskinvare i endring, fra simulering til oppstart av fysisk maskinvare.
  • En fordel: kjennskap til åpne runtime-design som IREEs HAL eller interne detaljer i CUDA- eller ROCm-runtime.
  • En fordel: erfaring med beregninger i minnet eller annen ikke-von-Neumann-maskinvare.
  • En fordel: erfaring med å integrere et runtime-system med en inferensserver som vLLM.
  • En fordel: bidrag til åpen kildekode for runtime-systemer eller systeminfrastruktur.

Fordeler

  • Eierandeler.
  • Prest asjonsbaserte insentiver.
  • Omfattende kompensasjonspakke.
  • Fordeler som skal støtte medarbeidernes trivsel og faglige utvikling.
  • Konkurransedyktig og rettferdig kompensasjon.
  • Rimelig tilrettelegging for medarbeidere med funksjonsnedsettelser.

Relaterte jobber

Provectus

Associate Forward Deployed Engineer hos Provectus (hybrid)

Provectus
501 – 1 000 Ansatte
Sponsor for H1B-visumHelsevesenProduksjonRådgivning
USUSANJNew JerseyNYNew York
120 000 $ – 145 000 $ / år
HybridHeltidJuniorMellomnivåPåkrevd Språk: engelskIngeniør
AWSAzureGoogle Cloud PlatformPythonSDLCSkySQLTypeScript

Hjelp Provectus-kunder med å ta i bruk Claude, agentbaserte systemer og AI-arbeidsflyter i produksjon. Lær hvordan kundeteamene jobber, og lever evaluerte løsninger på AWS.

Åpne