Normal Computing
Normal Computing
51 – 200 Ansatte
Den tilgjengelige profilinformasjonen oppgir at Normal Computing ble grunnlagt i 2022, men beskriver ikke selskapets produkter, tjenester, bransje eller ansettelseskontekst. Det trengs mer selskapsspesifikk informasjon for å gi jobbsøkere en nyttig oversikt.

Compilerfrontendingeniør for LLM-arkitekturer

Utvid kompilatorstøtten for nye LLM-arkitekturer, fra attention-varianter og MoE-ruting til kvantisering og numeriske formater. Valider modelloppstart på simulatorer og FPGA-prototyper for Normal Computings AI-maskinvare med beregning i minnet.

Beskrivelse

  • Utvid frontend- og mellomnivåstøtten i kompilatoren for nye LLM-arkitekturer.
  • Implementer attention-varianter, MoE-rutingsmetoder og andre arkitekturer i kompilatoren.
  • Utvid IR, operasjoner og lowering-pass slik at nye arkitekturprimitiver representeres nøyaktig.
  • Vedlikehold testdekningen etter hvert som kompilatoren utvikles.
  • Representer kvantiseringsmetoder og numeriske formater samtidig som modellens nøyaktighet bevares.
  • Følg utviklingen innen LLM-arkitekturer, og anbefal prioriteringer for framtidig kompilatorstøtte.
  • Overlever lowerede programmer til backend-kompilatoringeniører for maskinvaretilordning.
  • Samarbeid med LLM-serving-ingeniøren om å føre modeller fra kompilatorstøtte til serving.
  • Valider kompilatoroppstart med simulatorer og FPGA-prototyper før silisium er tilgjengelig.

Krav

  • Praktisk erfaring med å utvikle og levere ML-kompilatorpass.
  • God kjennskap til PyTorchs interne funksjoner, gjerne TorchDynamo, FX og torch.export.
  • Arbeidskunnskap om moderne LLM-arkitekturer, inkludert attention-mekanismer, MoE-ruting og kvantiseringsmetoder.
  • Evne til å utforme kompilatorinfrastruktur i en ny kodebase og videreutvikle en etablert kodebase.
  • Evne til å bygge programvare for maskinvare under utvikling, fra simulering til oppstart.
  • Svært gode Python-kunnskaper.
  • Kjennskap til C++ eller Rust.
  • Erfaring med IREE, XLA eller TVM er en fordel.
  • Kjennskap til JAX eller ONNX er en fordel.
  • Erfaring med å dele opp modeller på tvers av enheter med tensor-, pipeline- eller ekspertparallellisme er en fordel.
  • Erfaring med samutvikling av maskinvare og programvare er en fordel.
  • Erfaring med uvanlige maskinvaremål eller maskinvare med beregning i minnet er en fordel.
  • Bidrag til åpen kildekode-prosjekter innen kompilatorer eller ML-infrastruktur er en fordel.

Fordeler

  • Forskningsnært arbeid med mulighet til å publisere på vegne av Normal Computing.
  • Arbeid med maskinvare før silisiumproduksjon ved hjelp av simulatorer og FPGA-prototyper.
  • Inkluderende arbeidsplass med et engasjement for like muligheter i arbeidslivet.
  • Rimelig tilrettelegging tilbys personer med funksjonsnedsettelser.

Relaterte jobber

Commure

Senior programvareingeniør innen anvendt AI

Commure

Bygg LLM-drevet automatisering av inntektssyklusen for Commures AI-plattform for helsetjenester. Utvikle pålitelige systemer for krav, betalingsmeldinger, avslag, klager og dokumentuttrekk.

Åpne
Commure

Senior programvareingeniør, skadeintelligens

Commure

Bygg Commures AI-drevne infrastruktur for helserefusjonskrav, inkludert clearinghouse-integrasjoner og EDI-pipelines. Utvikle ruting av dekning og skalerbare regler for inntektssyklusen.

Åpne
OpenAI

Programvareingeniør, identitetsinfrastruktur

OpenAI

Bygg og ta ansvar for sikre tilgangsproxyer med høy kapasitet og identitetstjenester for OpenAIs plattform for forskning og utrulling. Følg distribuerte systemer fra design til produksjon.

Åpne