Normal Computing
Normal Computing
51 – 200 Medewerkers
De beschikbare profielinformatie vermeldt dat Normal Computing in 2022 is opgericht, maar geeft geen informatie over producten, diensten, de sector of de wervingscontext. Voor een nuttig overzicht voor werkzoekenden is meer bedrijfsspecifieke informatie nodig.

Compilerfrontend-engineer voor LLM-architecturen

Breid de compilerondersteuning voor nieuwe LLM-architecturen uit, van attentionvarianten en MoE-routering tot kwantisering en numerieke formaten. Valideer het opstarten van modellen op simulators en FPGA-prototypes voor de in-memory AI-hardware van Normal Computing.

Beschrijving

  • Breid de ondersteuning in de frontend en middelste compilerlagen voor nieuwe LLM-architecturen uit.
  • Implementeer attentionvarianten, MoE-routeringsschema's en andere architecturen in de compiler.
  • Breid de IR, bewerkingen en lowering-passes uit om nieuwe architectuurprimitieven nauwkeurig weer te geven.
  • Houd de testdekking op peil terwijl de compiler zich verder ontwikkelt.
  • Geef kwantiseringsschema's en numerieke formaten weer met behoud van de modelnauwkeurigheid.
  • Volg ontwikkelingen in LLM-architecturen en adviseer over prioriteiten voor toekomstige compilerondersteuning.
  • Draag verlaagde programma's over aan compiler-engineers voor de backend, zodat die ze aan de hardware kunnen koppelen.
  • Werk samen met de LLM-serving-engineer om modellen van compilerondersteuning naar serving te brengen.
  • Valideer het opstarten van de compiler met simulators en FPGA-prototypes voordat silicium beschikbaar is.

Vereisten

  • Praktische ervaring met het ontwikkelen en uitbrengen van ML-compilerpasses.
  • Goede kennis van de interne werking van PyTorch, bij voorkeur met TorchDynamo, FX en torch.export.
  • Praktische kennis van moderne LLM-architecturen, waaronder attentionmechanismen, MoE-routering en kwantiseringsschema's.
  • Je voelt je thuis bij het ontwerpen van compilerinfrastructuur in een nieuwe codebase en het uitbreiden van een bestaande codebase.
  • Je voelt je thuis bij softwareontwikkeling voor hardware die zich verder ontwikkelt, van simulatie tot ingebruikname.
  • Goede beheersing van Python.
  • Kennis van C++ of Rust.
  • Ervaring met IREE, XLA of TVM is een pluspunt.
  • Kennis van JAX of ONNX is een pluspunt.
  • Ervaring met het verdelen van modellen over apparaten via tensor-, pipeline- of expertparallelisme is een pluspunt.
  • Ervaring met hardware-softwareco-ontwerp is een pluspunt.
  • Ervaring met niet-standaard hardwaredoelen of in-memory hardware is een pluspunt.
  • Bijdragen aan opensourceprojecten voor compilers of ML-infrastructuur zijn een pluspunt.

Voordelen

  • Werk dicht bij onderzoek, met de mogelijkheid om namens Normal Computing te publiceren.
  • Werk aan hardware van vóór de chipproductie met simulators en FPGA-prototypes.
  • Inclusieve werkplek met een toezegging tot gelijke kansen op werk.
  • Redelijke aanpassingen zijn beschikbaar voor mensen met een beperking.

Gerelateerde vacatures

Commure

Senior software-engineer toegepaste AI

Commure

Bouw LLM-gestuurde automatisering voor de omzetcyclus van Commures AI-platform voor de gezondheidszorg. Ontwikkel betrouwbare systemen voor declaraties, betalingsverwerking, afwijzingen, bezwaarprocedures en documentextractie.

Openen
Commure

Senior Software Engineer, Claims Intelligence

Commure

Bouw Commures AI-gestuurde infrastructuur voor declaraties in de gezondheidszorg, met koppelingen aan clearinghouses en EDI-pijplijnen. Ontwikkel routering voor controles van verzekeringsdekking en schaalbare regels voor de afhandelingscyclus van declaraties.

Openen
Nubank

Senior Lead Software Engineer, backendplatform

Nubank
5.001 – 10.000 Medewerkers
BankwezenFintech

Geef leiding aan de ontwikkeling van gedistribueerde backenddiensten en API’s voor het wereldwijde financiële platform van Nubank. Draag de verantwoordelijkheid voor betrouwbare interne systemen die productteams in de hele organisatie ondersteunen.

Openen
OpenAI

Software Engineer, identiteitsinfrastructuur

OpenAI

Bouw en beheer veilige, schaalbare toegangproxies en identiteitsdiensten voor het onderzoeks- en implementatieplatform van OpenAI. Breng gedistribueerde systemen van ontwerp tot productie.

Openen