51 – 200 Employés
Les informations de profil disponibles identifient Normal Computing comme une entreprise fondée en 2022, mais ne décrivent ni ses produits, ni ses services, ni son secteur, ni son contexte de recrutement. Des précisions propres à l’entreprise sont nécessaires pour proposer une présentation utile aux personnes en recherche d’emploi.
Ingénieur·e de recherche en algorithmes pour le matériel d’inférence des LLM
Développer des algorithmes d’inférence des LLM pour le matériel d’IA en mémoire de Normal Computing. Collaborer avec les équipes matériel et architecture sur les méthodes numériques, les benchmarks et les prototypes.
Description
- Développer des algorithmes pour les charges d’inférence des LLM sur du matériel en mémoire.
- Collaborer avec les équipes matériel et architecture à la conception conjointe du logiciel et du matériel.
- Créer des méthodes numériques qui exploitent le bruit thermique et la dynamique analogique.
- Élaborer des cadres d’évaluation et des benchmarks pour la simulation et le matériel physique.
- Traduire les observations sur les charges de travail des modèles en contraintes et possibilités de conception matérielle.
- Prototyper et affiner les algorithmes à mesure que le matériel passe de la simulation au silicium.
- Améliorer les performances au niveau des portes logiques comme au niveau des algorithmes.
- Tester les algorithmes avec des simulateurs, des prototypes FPGA et, dès qu’il est disponible, du silicium.
Exigences
- Solide connaissance de l’inférence des grands modèles, notamment des mécanismes d’attention, du cache KV, du décodage à long contexte et des limites de bande passante mémoire.
- Expérience de l’amélioration de l’inférence grâce à des techniques telles que la quantification, la parcimonie, la fusion de kernels ou l’attention économe en mémoire.
- Connaissance des systèmes stochastiques, des méthodes probabilistes, de l’analyse numérique ou du calcul analogique.
- Expérience de l’implémentation d’algorithmes au plus près du matériel, sans s’appuyer uniquement sur des frameworks de haut niveau.
- Capacité à raisonner à partir des principes fondamentaux sur de nouveaux substrats informatiques.
- Capacité démontrée à faire passer des idées de la théorie à leur mise en œuvre sur du matériel réel.
- Bonne maîtrise de Python et d’au moins un langage de programmation système.
- Capacité à collaborer avec des équipes matériel, architecture et logiciel.
- Un doctorat en apprentissage automatique, mathématiques appliquées, physique, génie électrique ou dans un domaine connexe est un atout.
- Une expérience des systèmes analogiques ou mixtes, du calcul en mémoire ou des architectures non von Neumann est un atout.
- Une expérience du travail sur du matériel encore en développement au moment de votre arrivée est un atout.
- Des publications ou contributions open source sur l’inférence efficace, les algorithmes stochastiques ou les nouvelles formes de calcul sont un atout.
Avantages
- Un environnement de travail inclusif qui s’engage en faveur de la diversité.
- Des aménagements raisonnables pour les personnes en situation de handicap.
- Des garanties d’égalité des chances en matière d’emploi.
Offres similaires
Aucune offre d’emploi trouvée
Essayez de modifier ou d’effacer vos filtres pour trouver plus d’opportunités.