Normal Computing
Normal Computing
51 – 200 Mitarbeitende
Die verfügbaren Profilangaben nennen Normal Computing als ein 2022 gegründetes Unternehmen, machen jedoch keine Angaben zu Produkten, Dienstleistungen, Branche oder Einstellungskontext. Für einen aussagekräftigen Überblick für Jobsuchende sind weitere unternehmensspezifische Informationen erforderlich.

Runtime Engineer für KI-Hardware

Entwickle Runtime-Software für die speicherzentrierte KI-Hardware von Normal Computing und präge Architektur, Hardwareabstraktion und LLM-Inferenzleistung.

Beschreibung

  • Verantworte die Runtime-Architektur für Geräteverwaltung, Speicherzuweisung, Host-Gerät-Transfers, das Laden ausführbarer Programme und die Befehlsübermittlung.
  • Entwickle die Runtime für Simulatoren und FPGA-Prototypen über eine einheitliche Schnittstelle, bevor Silizium verfügbar ist.
  • Abstrahiere Hardwareunterschiede zwischen Simulatoren, FPGA-Prototypen, Silizium und künftigen Generationen.
  • Verwalte den auf der Hardware gespeicherten Gerätezustand, einschließlich Modellgewichten, die zwischen Anfragen im Speicher bleiben.
  • Reduziere den Runtime-Aufwand im kritischen Pfad der LLM-Inferenz, um die Ende-zu-Ende-Latenz und den Durchsatz zu verbessern.
  • Definiere Schnittstellen zu Compiler-, Treiber- und Firmwarekomponenten.
  • Gib die technische Richtung der Runtime vor und prüfe darauf aufbauende Entwürfe.
  • Arbeite mit Compiler- und Serving-Entwicklern zusammen, um wirksame Schnittstellen zu gestalten.

Anforderungen

  • Erfahrung mit der Entwicklung von Runtimes, Treibern oder Hardwareabstraktionsschichten für Beschleuniger oder andere spezialisierte Hardware.
  • Fundierte C++- oder Rust-Kenntnisse in der Systemprogrammierung, einschließlich Speicherverwaltung, Nebenläufigkeit und hardwarenaher Leistungsoptimierung.
  • Nachgewiesene Verantwortung für eine komplexe Systemkomponente vom Entwurf bis zum Produktiveinsatz.
  • Erfahrung darin, teamübergreifend technische Entscheidungen zu treffen.
  • Verständnis von LLM-Inferenz-Workloads und den Anforderungen an Runtimes.
  • Sicherer Umgang mit der Softwareentwicklung für sich verändernde Hardware, von der Simulation bis zur Inbetriebnahme.
  • Von Vorteil: Vertrautheit mit offenen Runtime-Designs wie der HAL von IREE oder mit den Interna der CUDA- oder ROCm-Runtime.
  • Von Vorteil: Erfahrung mit In-Memory-Computing oder anderer Nicht-von-Neumann-Hardware.
  • Von Vorteil: Erfahrung bei der Integration einer Runtime in einen Inferenzserver wie vLLM.
  • Von Vorteil: Beiträge zu Open-Source-Runtimes oder Systeminfrastruktur.

Zusatzleistungen

  • Beteiligung am Unternehmen.
  • Leistungsabhängige Anreize.
  • Umfassendes Vergütungspaket.
  • Leistungen zur Förderung des Wohlbefindens und der beruflichen Entwicklung der Mitarbeitenden.
  • Wettbewerbsfähige und faire Vergütung.
  • Angemessene Vorkehrungen für Mitarbeitende mit Behinderungen.

Ähnliche Stellen

Oklo Inc

Kernsicherheitsingenieur für Kritikalitätsanalysen in der Brennstofffertigung

Oklo Inc
51 – 200 Mitarbeitende
BeratungFertigungVerteidigung

Erstellen Sie Kritikalitätsanalysen und Sicherheitsmaßnahmen für Oklo-Brennstofffertigungsanlagen der nächsten Generation. Unterstützen Sie Genehmigung, Inbetriebnahme und die Entwicklung sauberer Fusionsenergie.

Öffnen
SuperAnnotate

Talent Engineer für KI-Recruiting-Automatisierung

SuperAnnotate

Entwickle KI-gestützte Beschaffung, Vorauswahl und Recruiting-Automatisierung für SuperAnnotates Workforce im Bereich menschlicher Datenarbeit. Verantworte skalierbare Abläufe, Integrationen, Analysen und Outreach-Systeme.

Öffnen
Provectus

Associate Forward Deployed Engineer bei Provectus (Hybrid)

Provectus

Unterstütze Kundinnen und Kunden von Provectus dabei, Claude, agentische Systeme und produktive KI-Workflows einzusetzen. Lerne die Abläufe der Kundenteams kennen und liefere evaluierte Lösungen auf AWS.

Öffnen
Arcadis

Umweltgeologe, Wissenschaftler oder Ingenieur – San Luis Obispo

Arcadis

Starte bei Arcadis in einer Einstiegsposition und unterstütze nachhaltige Sanierungs- und Ingenieurprojekte. Zu den Aufgaben gehören Felduntersuchungen, die Überwachung von Behandlungssystemen, Datenanalysen und Notfalleinsätze.

Öffnen