Normal Computing
Normal Computing
51 – 200 Employés
Les informations de profil disponibles identifient Normal Computing comme une entreprise fondée en 2022, mais ne décrivent ni ses produits, ni ses services, ni son secteur, ni son contexte de recrutement. Des précisions propres à l’entreprise sont nécessaires pour proposer une présentation utile aux personnes en recherche d’emploi.

Ingénieur runtime pour matériel d’IA

Concevez le logiciel runtime du matériel d’IA centré sur la mémoire de Normal Computing. Pilotez l’architecture, l’abstraction matérielle et les performances d’inférence des LLM.

Description

  • Pilotez l’architecture runtime pour la gestion des appareils, l’allocation mémoire, les transferts entre l’hôte et l’appareil, le chargement des exécutables et l’envoi des commandes.
  • Développez le runtime pour les simulateurs et les prototypes FPGA au moyen d’une interface cohérente, avant la disponibilité du silicium.
  • Abstraiez les différences matérielles entre les simulateurs, les prototypes FPGA, le silicium et les générations futures.
  • Gérez l’état des appareils stocké sur le matériel, notamment les poids des modèles qui y restent chargés entre les requêtes.
  • Réduisez la surcharge du runtime sur le chemin critique de l’inférence des LLM afin d’améliorer la latence de bout en bout et le débit.
  • Définissez les interfaces avec les composants du compilateur, du pilote et du firmware.
  • Orientez les choix techniques du runtime et examinez les conceptions qui en dépendent.
  • Collaborez avec les équipes compilateur et serving pour concevoir des interfaces efficaces.

Exigences

  • Expérience dans le développement de runtimes, de pilotes ou de couches d’abstraction matérielle pour des accélérateurs ou d’autres matériels spécialisés.
  • Solides compétences en programmation système avec C++ ou Rust, notamment en gestion mémoire, concurrence et optimisation des performances de bas niveau.
  • Expérience avérée de la prise en charge d’un composant système complexe, de sa conception à sa mise en production.
  • Expérience dans la conduite de décisions techniques entre équipes.
  • Compréhension des charges de travail d’inférence des LLM et des besoins des runtimes.
  • Aisance dans le développement de logiciels pour du matériel en évolution, de la simulation à la mise en service.
  • La connaissance de conceptions de runtimes ouvertes, comme HAL d’IREE, ou des mécanismes internes des runtimes CUDA ou ROCm serait un plus.
  • Une expérience en calcul en mémoire ou avec d’autres matériels non von Neumann serait un plus.
  • Une expérience de l’intégration d’un runtime avec un serveur d’inférence tel que vLLM serait un plus.
  • Des contributions à des runtimes open source ou à une infrastructure système seraient un plus.

Avantages

  • Participation au capital.
  • Primes liées aux performances.
  • Rémunération globale complète.
  • Avantages destinés à soutenir le bien-être et l’évolution professionnelle du personnel.
  • Rémunération compétitive et équitable.
  • Aménagements raisonnables pour les employés en situation de handicap.

Offres similaires

Oklo Inc

Ingénieur en sûreté nucléaire, analyse de criticité pour la fabrication de combustible

Oklo Inc

Élaborez des analyses de criticité et des contrôles de sûreté pour les installations avancées de fabrication de combustible d’Oklo. Contribuez aux autorisations, à la mise en service et au développement d’une énergie de fission propre.

Ouvrir
SuperAnnotate

Ingénieur en recrutement, automatisation du recrutement par IA

SuperAnnotate

Concevez des processus de recherche, de présélection et d’automatisation du recrutement par IA pour les équipes de spécialistes en données humaines de SuperAnnotate. Gérez des flux de travail évolutifs, des intégrations, des analyses et des systèmes de prise de contact.

Ouvrir
Provectus

Ingénieur·e associé·e Forward Deployed chez Provectus (hybride)

Provectus

Aidez les clients de Provectus à exploiter Claude, des systèmes agentiques et des flux d’IA en production. Découvrez le fonctionnement des équipes clientes et fournissez des solutions évaluées sur AWS.

Ouvrir
Arcadis

Géologue, scientifique ou ingénieur en environnement — San Luis Obispo

Arcadis

Rejoignez Arcadis dans un poste de début de carrière pour contribuer à des projets d’assainissement durable et d’ingénierie. Le travail comprend des études de terrain, le suivi de systèmes de traitement, l’analyse de données et la réponse aux urgences.

Ouvrir