Normal Computing
Normal Computing
51 – 200 Mitarbeitende
Die verfügbaren Profilangaben nennen Normal Computing als ein 2022 gegründetes Unternehmen, machen jedoch keine Angaben zu Produkten, Dienstleistungen, Branche oder Einstellungskontext. Für einen aussagekräftigen Überblick für Jobsuchende sind weitere unternehmensspezifische Informationen erforderlich.

Compiler-Frontend-Engineer für LLM-Architekturen

Erweitere die Compiler-Unterstützung für neue LLM-Architekturen – von Attention-Varianten und MoE-Routing bis hin zu Quantisierung und Zahlenformaten. Validiere die Inbetriebnahme von Modellen auf Simulatoren und FPGA-Prototypen für die In-Memory-KI-Hardware von Normal Computing.

Beschreibung

  • Erweitere die Unterstützung im Frontend und in mittleren Compilerphasen für neue LLM-Architekturen.
  • Implementiere Attention-Varianten, MoE-Routing-Verfahren und weitere Architekturen im Compiler.
  • Erweitere die IR, Operationen und Lowering-Pässe, damit neue Architekturbausteine präzise dargestellt werden.
  • Sorge dafür, dass die Testabdeckung mit der Weiterentwicklung des Compilers Schritt hält.
  • Bilde Quantisierungsschemata und Zahlenformate ab und bewahre dabei die Modellgenauigkeit.
  • Verfolge Entwicklungen bei LLM-Architekturen und schlage Prioritäten für die künftige Compiler-Unterstützung vor.
  • Übergib die abgesenkten Programme an Compiler-Engineers im Backend, damit sie der Hardware zugeordnet werden.
  • Arbeite mit dem LLM-Serving-Engineer zusammen, um Modelle von der Compiler-Unterstützung in den Serving-Betrieb zu überführen.
  • Validiere die Inbetriebnahme des Compilers mit Simulatoren und FPGA-Prototypen, bevor Silizium verfügbar ist.

Anforderungen

  • Praktische Erfahrung mit der Entwicklung und Bereitstellung von ML-Compiler-Pässen.
  • Gute Kenntnisse der PyTorch-Interna, idealerweise einschließlich TorchDynamo, FX und torch.export.
  • Anwendungskenntnisse moderner LLM-Architekturen, darunter Attention-Mechanismen, MoE-Routing und Quantisierungsschemata.
  • Sicherheit darin, Compiler-Infrastruktur in einer neuen Codebasis zu entwerfen und eine bestehende zu erweitern.
  • Sicherheit bei der Entwicklung von Software für sich weiterentwickelnde Hardware, von der Simulation bis zur Inbetriebnahme.
  • Sehr gute Python-Kenntnisse.
  • Kenntnisse in C++ oder Rust.
  • Erfahrung mit IREE, XLA oder TVM ist von Vorteil.
  • Kenntnisse in JAX oder ONNX sind von Vorteil.
  • Erfahrung mit der Aufteilung von Modellen auf mehrere Geräte mithilfe von Tensor-, Pipeline- oder Expertenparallelisierung ist von Vorteil.
  • Erfahrung mit Hardware-Software-Co-Design ist von Vorteil.
  • Erfahrung mit nicht standardmäßigen oder In-Memory-Hardwarezielen ist von Vorteil.
  • Beiträge zu Open-Source-Projekten im Bereich Compiler oder ML-Infrastruktur sind von Vorteil.

Zusatzleistungen

  • Forschungsnahes Arbeitsumfeld mit der Möglichkeit, im Namen von Normal Computing zu publizieren.
  • Arbeit mit Hardware vor der Fertigung auf Simulatoren und FPGA-Prototypen.
  • Inklusiver Arbeitsplatz mit dem Bekenntnis zu Chancengleichheit im Beruf.
  • Angemessene Vorkehrungen für Menschen mit Behinderungen sind verfügbar.

Ähnliche Stellen

Commure

Senior Software Engineer für angewandte KI

Commure

Entwickle LLM-gestützte Automatisierung für den Abrechnungszyklus der Commure-KI-Plattform im Gesundheitswesen. Baue zuverlässige Systeme für Leistungsanträge, Zahlungseingänge, Ablehnungen, Widersprüche und die Dokumentenerkennung.

Öffnen
Commure

Senior Software Engineer, Claims Intelligence

Commure

Entwickeln Sie Commures KI-gestützte Infrastruktur für Gesundheitsabrechnungen, einschließlich Clearinghouse-Integrationen und EDI-Pipelines. Erstellen Sie Lösungen für die Weiterleitung von Anspruchsprüfungen und skalierbare Regeln für den Abrechnungszyklus.

Öffnen
OpenAI

Software Engineer, Identitätsinfrastruktur

OpenAI

Entwickle und betreibe sichere, hochskalierbare Zugriffsproxys und Identitätsdienste für die Forschungs- und Bereitstellungsplattform von OpenAI. Führe verteilte Systeme vom Entwurf bis in den Produktivbetrieb.

Öffnen
Honeywell Aerospace Technologies

Softwareentwickler/in II, Luft- und Raumfahrtsoftware

Honeywell Aerospace Technologies

Entwickeln und testen Sie Embedded-Software für Luft- und Raumfahrtsysteme bei Honeywell Aerospace Technologies. Arbeiten Sie mit Engineering-Teams an Hardwareintegration, Fehlerbehebung und zuverlässigen Lösungen für Flugsysteme.

Öffnen