LogoFresh Jobs Ahead
Normal Computing
Normal Computing
51 – 200 Anställda
Den tillgängliga profilinformationen anger att Normal Computing grundades 2022, men beskriver inte företagets produkter, tjänster, bransch eller rekryteringssammanhang. Mer företagsspecifik information behövs för att ge arbetssökande en användbar översikt.
LinkedIn
Jobb på företaget

Kompilatoringenjör, frontend – LLM-arkitekturer

Utöka kompilatorstödet för nya LLM-arkitekturer, från varianter av attention och MoE-routing till kvantisering och numeriska format. Validera modellstart i simulatorer och FPGA-prototyper för Normal Computings AI-hårdvara med inbyggd minnesberäkning.

USUSACAKalifornienHybridHeltidMellannivåSeniorObligatoriskt Språk: engelskaFrontendingenjörMjukvaruingenjör
C++PythonPyTorchRust

Beskrivning

  • Utöka frontend- och mellannivåstödet i kompilatorn för nya LLM-arkitekturer.
  • Implementera varianter av attention, MoE-routinglösningar och andra arkitekturer i kompilatorn.
  • Utöka IR, operationer och sänkningspass så att nya arkitekturprimitiver representeras korrekt.
  • Upprätthålla testtäckningen i takt med att kompilatorn utvecklas.
  • Representera kvantiseringsmetoder och numeriska format med bibehållen modellprecision.
  • Följa utvecklingen inom LLM-arkitekturer och rekommendera prioriteringar för framtida kompilatorstöd.
  • Överlämna sänkta program till backend-kompilatoringenjörer för hårdvarumappning.
  • Samarbeta med ingenjören för LLM-serving för att föra modeller från kompilatorstöd till serving.
  • Validera kompilatorns uppstart med simulatorer och FPGA-prototyper innan kisel finns tillgängligt.

Krav

  • Praktisk erfarenhet av att utveckla och leverera ML-kompilatorpass.
  • Goda kunskaper om PyTorchs interna funktioner, gärna TorchDynamo, FX och torch.export.
  • Arbetskunskaper om moderna LLM-arkitekturer, inklusive attention-mekanismer, MoE-routing och kvantiseringsmetoder.
  • Förmåga att utforma kompilatorinfrastruktur i en ny kodbas och vidareutveckla en etablerad sådan.
  • Förmåga att bygga programvara för hårdvara under utveckling, från simulering till uppstart.
  • Goda kunskaper i Python.
  • Kännedom om C++ eller Rust.
  • Erfarenhet av IREE, XLA eller TVM är meriterande.
  • Kännedom om JAX eller ONNX är meriterande.
  • Erfarenhet av att fördela modeller över flera enheter med tensor-, pipeline- eller expertparallellism är meriterande.
  • Erfarenhet av samutveckling av hårdvara och programvara är meriterande.
  • Erfarenhet av ovanliga hårdvaruplattformar eller hårdvara med inbyggd minnesberäkning är meriterande.
  • Bidrag till projekt med öppen källkod inom kompilatorer eller ML-infrastruktur är meriterande.

Förmåner

  • Forskningsnära arbete med möjlighet att publicera i Normal Computings namn.
  • Arbeta med hårdvara före kiselproduktion med hjälp av simulatorer och FPGA-prototyper.
  • Inkluderande arbetsplats med åtagande om lika möjligheter till anställning.
  • Skäliga anpassningar erbjuds personer med funktionsnedsättning.

Relaterade jobb

Commure

Senior mjukvaruingenjör inom tillämpad AI

Commure
1 001 – 5 000 Anställda
Sponsor för H1B-visumHälso- och sjukvårdKonsultverksamhetLogistik
USUSACAKalifornienNYNew York
180 000 $ – 230 000 $ / år
HybridHeltidSeniorObligatoriskt Språk: engelskaFullstackingenjörMjukvaruingenjör
AWSC++DockerGoGoogle Cloud PlatformJavaScriptKubernetesPython

Bygg automatisering av intäktscykeln med LLM:er för Commures AI-plattform inom vården. Utveckla tillförlitliga system för anspråk, betalningsbesked, avslag, överklaganden och dokumentutvinning.

Öppna
Commure

Senior mjukvaruingenjör, skadeärendeintelligens

Commure
1 001 – 5 000 Anställda
Sponsor för H1B-visumHälso- och sjukvårdKonsultverksamhetLogistik
USUSACAKalifornienNYNew York
180 000 $ – 230 000 $ / år
HybridHeltidSeniorObligatoriskt Språk: engelskaFullstackingenjörMjukvaruingenjör
AWSDockerGoGoogle Cloud PlatformKubernetesPythonReactTypeScript

Bygg Commures AI-drivna infrastruktur för vårdersättningskrav, inklusive clearinghouse-integrationer och EDI-flöden. Utveckla behörighetsrouting och skalbara regler för intäktscykeln.

Öppna
OpenAI

Mjukvaruingenjör, identitetsinfrastruktur

OpenAI
201 – 500 Anställda
Sponsor för H1B-visumArtificiell intelligensFöretagSaaS
USUSACAKalifornienNYNew YorkWAWashington
230 000 $ – 325 000 $ / år
HybridHeltidMellannivåSeniorObligatoriskt Språk: engelskaFullstackingenjörMjukvaruingenjör
DNSGoPythonRust

Bygg och ansvara för säkra åtkomstproxyer med hög kapacitet och identitetstjänster för OpenAI:s plattform för forskning och driftsättning. Ta distribuerade system från utformning till produktion.

Öppna