LogoFresh Jobs Ahead
Normal Computing
Normal Computing
51 – 200 Medarbejdere
De tilgængelige profiloplysninger angiver, at Normal Computing blev grundlagt i 2022, men beskriver ikke virksomhedens produkter, tjenester, branche eller ansættelseskontekst. Der er brug for flere virksomhedsspecifikke oplysninger for at give jobsøgende et brugbart overblik.
LinkedIn
Job i virksomheden

Runtimeingeniør, AI-hardware

Udform runtime-software til Normal Computings hukommelsescentrerede AI-hardware, og stå i spidsen for arkitektur, hardwareabstraktion og LLM-inferensydelse.

USUSACACalifornienNYNew York
200.000 $ – 300.000 $ / år
HybridFuldtidMellemniveauSeniorPåkrævet Sprog: engelskIngeniør
C++Rust

Beskrivelse

  • Stå i spidsen for runtime-arkitekturen inden for enhedsstyring, hukommelsesallokering, overførsler mellem vært og enhed, indlæsning af eksekverbare filer og afsendelse af kommandoer.
  • Udvikle runtime-softwaren til simulatorer og FPGA-prototyper via en ensartet grænseflade, før silicium er tilgængeligt.
  • Abstrahere hardwareforskelle på tværs af simulatorer, FPGA-prototyper, silicium og fremtidige generationer.
  • Administrere enhedstilstand, der lagres på hardwaren, herunder modelvægte, som forbliver indlæst mellem forespørgsler.
  • Reducere runtime-overhead på LLM-inferensens kritiske sti for at forbedre latenstid og gennemløb fra ende til anden.
  • Definere grænseflader til compiler-, driver- og firmwarekomponenter.
  • Fastlægge runtime-systemets tekniske retning og gennemgå design, der afhænger af det.
  • Samarbejde med compiler- og servingingeniører om at udforme effektive grænseflader.

Krav

  • Erfaring med at udvikle runtimes, drivere eller hardwareabstraktionslag til acceleratorer eller anden specialiseret hardware.
  • Stærke færdigheder i systemprogrammering med C++ eller Rust, herunder hukommelsesstyring, samtidighed og ydeevne på lavt niveau.
  • Dokumenteret ansvar for en kompleks systemkomponent fra design til produktion.
  • Erfaring med at lede tekniske beslutninger på tværs af teams.
  • Forståelse af LLM-inferensarbejdsbelastninger og runtime-behov.
  • Tryg ved at udvikle software til hardware under forandring, fra simulering til opstart af den fysiske hardware.
  • En fordel: kendskab til åbne runtime-designs som IREE's HAL eller til internals i CUDA- eller ROCm-runtime.
  • En fordel: erfaring med beregninger i hukommelsen eller anden ikke-von-Neumann-hardware.
  • En fordel: erfaring med at integrere en runtime med en inferensserver som vLLM.
  • En fordel: bidrag til open source-runtime- eller systeminfrastruktur.

Fordele

  • Ejerandele.
  • Præstationsbaserede incitamenter.
  • Omfattende lønpakke.
  • Fordele, der skal understøtte medarbejdernes trivsel og faglige udvikling.
  • Konkurrencedygtig og retfærdig løn.
  • Rimelige tilpasninger for medarbejdere med handicap.

Relaterede job

SuperAnnotate

Talentingeniør, AI-automatisering af rekruttering

SuperAnnotate
51 – 200 Medarbejdere
Sponsor for H1B-visumKunstig intelligensSaaS
USUSACACalifornien
130.000 $ – 170.000 $ / år
HybridFuldtidMellemniveauSeniorPåkrævet Sprog: engelskIngeniør
JavaScriptPythonSQL

Byg AI-drevet kandidatsøgning, screening og rekrutteringsautomatisering til SuperAnnotates arbejdsstyrke inden for menneskedata. Få ansvar for skalerbare arbejdsgange, integrationer, analyser og systemer til kandidatkontakt.

Åbn
Provectus

Associate Forward Deployed Engineer hos Provectus (hybrid)

Provectus
501 – 1.000 Medarbejdere
Sponsor for H1B-visumFremstillingRådgivningSundhedsvæsen
USUSANJNew JerseyNYNew York
120.000 $ – 145.000 $ / år
HybridFuldtidJuniorMellemniveauPåkrævet Sprog: engelskIngeniør
AWSAzureCloudGoogle Cloud PlatformPythonSDLCSQLTypeScript

Hjælp Provectus' kunder med at bruge Claude, agentbaserede systemer og AI-workflows i produktion. Lær, hvordan kundernes teams arbejder, og lever evaluere løsninger på AWS.

Åbn