LogoFresh Jobs Ahead
Normal Computing
Normal Computing
51 – 200 Anställda
Den tillgängliga profilinformationen anger att Normal Computing grundades 2022, men beskriver inte företagets produkter, tjänster, bransch eller rekryteringssammanhang. Mer företagsspecifik information behövs för att ge arbetssökande en användbar översikt.
LinkedIn
Jobb på företaget

Runtimeingenjör, AI-hårdvara

Utforma runtimeprogramvara för Normal Computings minnescentrerade AI-hårdvara och led arbetet med arkitektur, hårdvaruabstraktion och LLM-inferensprestanda.

USUSACAKalifornienNYNew York
200 000 $ – 300 000 $ / år
HybridHeltidMellannivåSeniorObligatoriskt Språk: engelskaIngenjör
C++Rust

Beskrivning

  • Leda runtimearkitekturen för enhetshantering, minnesallokering, överföringar mellan värddator och enhet, laddning av körbara filer och kommandosändning.
  • Utveckla runtimeprogramvara för simulatorer och FPGA-prototyper med ett enhetligt gränssnitt innan kisel finns tillgängligt.
  • Abstrahera hårdvaruskillnader mellan simulatorer, FPGA-prototyper, kisel och framtida generationer.
  • Hantera enhetstillstånd som lagras på hårdvaran, inklusive modellvikter som ligger kvar mellan förfrågningar.
  • Minska runtime-overhead i LLM-inferensens kritiska väg för att förbättra latens och genomströmning från början till slut.
  • Definiera gränssnitt mot kompilator-, drivrutins- och firmwarekomponenter.
  • Vägleda runtimeprogrammets tekniska inriktning och granska konstruktioner som bygger på det.
  • Samarbeta med kompilator- och serveringsingenjörer för att utforma ändamålsenliga gränssnitt.

Krav

  • Erfarenhet av att utveckla runtimeprogramvara, drivrutiner eller hårdvaruabstraktionslager för acceleratorer eller annan specialiserad hårdvara.
  • Goda kunskaper i systemprogrammering med C++ eller Rust, inklusive minneshantering, samtidighet och prestanda på låg nivå.
  • Dokumenterad förmåga att ansvara för en komplex systemkomponent från utformning till produktionssättning.
  • Erfarenhet av att leda tekniska beslut mellan team.
  • Förståelse för LLM-inferensarbetslaster och deras behov av runtimeprogramvara.
  • Bekväm med att utveckla programvara för hårdvara under förändring, från simulering till den första hårdvaruuppstarten.
  • Meriterande: kännedom om öppna runtimearkitekturer som IREE:s HAL eller om internals i CUDA- eller ROCm-runtime.
  • Meriterande: erfarenhet av beräkningar i minnet eller annan hårdvara som avviker från von Neumann-arkitekturen.
  • Meriterande: erfarenhet av att integrera runtimeprogramvara med en inferensserver som vLLM.
  • Meriterande: bidrag till öppen runtimeprogramvara eller systeminfrastruktur.

Förmåner

  • Aktieandelar.
  • Prestationsbaserade incitament.
  • Omfattande ersättningspaket.
  • Förmåner avsedda att stödja medarbetarnas välmående och yrkesmässiga utveckling.
  • Konkurrenskraftig och rättvis ersättning.
  • Skäliga anpassningar för medarbetare med funktionsnedsättning.

Relaterade jobb

SuperAnnotate

Talentingenjör, AI-automatisering för rekrytering

SuperAnnotate
51 – 200 Anställda
Sponsor för H1B-visumArtificiell intelligensSaaS
USUSACAKalifornien
130 000 $ – 170 000 $ / år
HybridHeltidMellannivåSeniorObligatoriskt Språk: engelskaIngenjör
JavaScriptPythonSQL

Bygg AI-drivna system för kandidatsökning, urval och rekryteringsautomatisering för SuperAnnotates arbetsstyrka inom mänskliga data. Ansvara för skalbara arbetsflöden, integrationer, analys och system för kandidatutskick.

Öppna
Provectus

Associate Forward Deployed Engineer hos Provectus (hybrid)

Provectus
501 – 1 000 Anställda
Sponsor för H1B-visumHälso- och sjukvårdKonsultverksamhetTillverkning
USUSANJNew JerseyNYNew York
120 000 $ – 145 000 $ / år
HybridHeltidJuniorMellannivåObligatoriskt Språk: engelskaIngenjör
AWSAzureGoogle Cloud PlatformMolnPythonSDLCSQLTypeScript

Hjälp Provectus kunder att använda Claude, agentbaserade system och AI-arbetsflöden i produktion. Lär dig hur kundernas team arbetar och leverera utvärderade lösningar på AWS.

Öppna