51 – 200 Mitarbeitende
Die verfügbaren Profilangaben nennen Normal Computing als ein 2022 gegründetes Unternehmen, machen jedoch keine Angaben zu Produkten, Dienstleistungen, Branche oder Einstellungskontext. Für einen aussagekräftigen Überblick für Jobsuchende sind weitere unternehmensspezifische Informationen erforderlich.
Research Engineer: Algorithmen für LLM-Inferenzhardware
Entwickle Algorithmen für die LLM-Inferenz auf der In-Memory-KI-Hardware von Normal Computing. Arbeite mit Hardware- und Architekturteams an numerischen Verfahren, Benchmarks und Prototypen.
Beschreibung
- Entwickle Algorithmen für LLM-Inferenz-Workloads auf In-Memory-Hardware.
- Arbeite mit Hardware- und Architekturteams am gemeinsamen Entwurf von Software und Hardware.
- Entwickle numerische Verfahren, die thermisches Rauschen und analoge Dynamik nutzen.
- Erstelle Bewertungsrahmen und Benchmarks für Simulationen und physische Hardware.
- Leite aus Erkenntnissen zu Modell-Workloads Anforderungen und Chancen für das Hardwaredesign ab.
- Erstelle Prototypen und verfeinere Algorithmen, während sich die Hardware von der Simulation bis zum Silizium weiterentwickelt.
- Steigere die Leistung sowohl auf Gate- als auch auf Algorithmenebene.
- Teste Algorithmen mit Simulatoren, FPGA-Prototypen und Silizium, sobald es verfügbar ist.
Anforderungen
- Fundierte Kenntnisse der Inferenz großer Modelle, einschließlich Attention-Mechanismen, KV-Cache, Decoding mit langem Kontext und Grenzen der Speicherbandbreite.
- Erfahrung mit der Verbesserung der Inferenz durch Techniken wie Quantisierung, Sparsity, Kernel-Fusion oder speichereffiziente Attention.
- Vertrautheit mit stochastischen Systemen, probabilistischen Methoden, numerischer Analyse oder analoger Berechnung.
- Erfahrung mit der hardwarenahen Implementierung von Algorithmen, nicht ausschließlich mit High-Level-Frameworks.
- Fähigkeit, neue Rechenplattformen anhand grundlegender Prinzipien zu durchdenken.
- Nachgewiesene Fähigkeit, Ideen von der Theorie bis zur Implementierung auf realer Hardware zu bringen.
- Sehr gute Python-Kenntnisse und Erfahrung mit mindestens einer Systemprogrammiersprache.
- Fähigkeit zur Zusammenarbeit mit Hardware-, Architektur- und Softwareteams.
- Eine Promotion in maschinellem Lernen, angewandter Mathematik, Physik, Elektrotechnik oder einem verwandten Fach ist von Vorteil.
- Erfahrung mit analogen oder Mixed-Signal-Systemen, In-Memory-Computing oder Nicht-von-Neumann-Architekturen ist von Vorteil.
- Erfahrung mit Hardware, die sich zum Zeitpunkt des eigenen Eintritts noch in der Entwicklung befand, ist von Vorteil.
- Publikationen oder Open-Source-Beiträge zu effizienter Inferenz, stochastischen Algorithmen oder neuartigen Rechenverfahren sind von Vorteil.
Zusatzleistungen
- Ein inklusiver Arbeitsplatz mit einem klaren Bekenntnis zu Vielfalt.
- Angemessene Vorkehrungen für Menschen mit Behinderungen.
- Schutz durch die Grundsätze der Chancengleichheit im Beschäftigungsverhältnis.
Ähnliche Stellen
Keine Stellen gefunden
Passe deine Filter an oder lösche sie, um weitere Möglichkeiten zu finden.