Normal Computing
Normal Computing
51 – 200 Medewerkers
De beschikbare profielinformatie vermeldt dat Normal Computing in 2022 is opgericht, maar geeft geen informatie over producten, diensten, de sector of de wervingscontext. Voor een nuttig overzicht voor werkzoekenden is meer bedrijfsspecifieke informatie nodig.

Runtime-engineer voor AI-hardware

Ontwikkel runtimesoftware voor de geheugengerichte AI-hardware van Normal Computing en geef richting aan de architectuur, hardwareabstractie en LLM-inferentieprestaties.

Beschrijving

  • Neem de leiding over de runtime-architectuur voor apparaatbeheer, geheugentoewijzing, gegevensoverdracht tussen host en apparaat, het laden van uitvoerbare bestanden en het indienen van opdrachten.
  • Ontwikkel de runtime voor simulatoren en FPGA-prototypes via één consistente interface, voordat silicium beschikbaar is.
  • Abstraheer hardwareverschillen tussen simulatoren, FPGA-prototypes, silicium en toekomstige generaties.
  • Beheer de apparaatstatus die op de hardware is opgeslagen, waaronder modelgewichten die tussen verzoeken in het geheugen blijven.
  • Verminder de runtime-overhead in het kritieke pad van LLM-inferentie om de end-to-endlatentie en doorvoer te verbeteren.
  • Definieer interfaces met compiler-, driver- en firmwarecomponenten.
  • Bepaal de technische koers van de runtime en beoordeel ontwerpen die ervan afhankelijk zijn.
  • Werk samen met compiler- en serving-engineers aan effectieve interfaces.

Vereisten

  • Ervaring met het ontwikkelen van runtimes, drivers of hardwareabstractielagen voor accelerators of andere gespecialiseerde hardware.
  • Sterke vaardigheden in C++- of Rust-systeemprogrammering, waaronder geheugenbeheer, concurrency en low-level prestatieoptimalisatie.
  • Aantoonbare verantwoordelijkheid voor een complexe systeemcomponent, van ontwerp tot productie.
  • Ervaring met het leiden van technische besluitvorming binnen teams.
  • Inzicht in LLM-inferentieworkloads en runtimevereisten.
  • Je kunt software ontwikkelen voor veranderende hardware, van simulatie tot ingebruikname.
  • Pré: vertrouwdheid met open runtime-ontwerpen zoals IREE's HAL of met de interne werking van CUDA- of ROCm-runtimes.
  • Pré: ervaring met in-memory computing of andere niet-von-Neumannhardware.
  • Pré: ervaring met het integreren van een runtime met een inferentieserver zoals vLLM.
  • Pré: bijdragen aan open-sourceruntimes of systeeminfrastructuur.

Voordelen

  • Aandelenparticipatie.
  • Prestatieafhankelijke incentives.
  • Uitgebreid beloningspakket.
  • Arbeidsvoorwaarden gericht op het welzijn en de professionele ontwikkeling van medewerkers.
  • Een marktconforme en rechtvaardige beloning.
  • Redelijke aanpassingen voor medewerkers met een beperking.

Gerelateerde vacatures

Provectus

Associate Forward Deployed Engineer bij Provectus (hybride)

Provectus

Help klanten van Provectus Claude, agentische systemen en AI-workflows in productie in te zetten. Leer hoe klantteams werken en lever geëvalueerde oplossingen op AWS.

Openen