Normal Computing
Normal Computing
51 – 200 Employés
Les informations de profil disponibles identifient Normal Computing comme une entreprise fondée en 2022, mais ne décrivent ni ses produits, ni ses services, ni son secteur, ni son contexte de recrutement. Des précisions propres à l’entreprise sont nécessaires pour proposer une présentation utile aux personnes en recherche d’emploi.

Ingénieur frontend compilateur, architectures des LLM

Étendez la prise en charge des architectures LLM émergentes par le compilateur, des variantes d’attention et du routage MoE à la quantification et aux formats numériques. Validez le démarrage des modèles sur des simulateurs et des prototypes FPGA pour le matériel d’IA en mémoire de Normal Computing.

Description

  • Étendez la prise en charge des architectures LLM émergentes par le frontend et le niveau intermédiaire du compilateur.
  • Implémentez des variantes d’attention, des schémas de routage MoE et d’autres architectures dans le compilateur.
  • Étendez l’IR, les opérations et les passes de lowering afin de représenter précisément les nouvelles primitives architecturales.
  • Maintenez la couverture des tests à mesure que le compilateur évolue.
  • Représentez les schémas de quantification et les formats numériques tout en préservant la précision des modèles.
  • Suivez les évolutions des architectures LLM et recommandez les priorités pour la future prise en charge par le compilateur.
  • Transmettez les programmes après lowering aux ingénieurs du compilateur backend pour leur mappage matériel.
  • Collaborez avec l’ingénieur de serving LLM pour faire passer les modèles de la prise en charge par le compilateur au serving.
  • Validez le démarrage du compilateur avec des simulateurs et des prototypes FPGA avant que le silicium soit disponible.

Exigences

  • Expérience pratique du développement et de la mise en production de passes de compilateur pour le ML.
  • Solide connaissance des composants internes de PyTorch, idéalement de TorchDynamo, FX et torch.export.
  • Connaissance pratique des architectures LLM modernes, notamment des mécanismes d’attention, du routage MoE et des schémas de quantification.
  • Aisance dans la conception d’une infrastructure de compilateur au sein d’une nouvelle base de code et dans l’extension d’une base existante.
  • Aisance dans le développement de logiciels pour du matériel en évolution, de la simulation au démarrage.
  • Maîtrise de Python.
  • Connaissance de C++ ou de Rust.
  • Une expérience avec IREE, XLA ou TVM est un atout.
  • Une connaissance de JAX ou d’ONNX est un atout.
  • Une expérience du partitionnement de modèles entre appareils avec parallélisme tensoriel, pipeline ou d’experts est un atout.
  • Une expérience de la co-conception matériel-logiciel est un atout.
  • Une expérience des cibles matérielles atypiques ou de calcul en mémoire est un atout.
  • Des contributions à des projets open source de compilateurs ou d’infrastructure ML sont un atout.

Avantages

  • Travail à proximité de la recherche, avec la possibilité de publier au nom de Normal Computing.
  • Travail sur du matériel pré-silicium à l’aide de simulateurs et de prototypes FPGA.
  • Environnement de travail inclusif avec un engagement en faveur de l’égalité des chances en matière d’emploi.
  • Des aménagements raisonnables sont proposés aux personnes en situation de handicap.

Offres similaires

Commure

Ingénieur logiciel senior en IA appliquée

Commure

Créez des automatisations du cycle de revenus fondées sur les LLM pour la plateforme d’IA médicale de Commure. Développez des systèmes fiables pour les demandes de remboursement, les virements, les refus, les recours et l’extraction de documents.

Ouvrir
Commure

Ingénieur logiciel senior, intelligence des demandes de remboursement

Commure

Développez l’infrastructure de demandes de remboursement de santé de Commure basée sur l’IA, avec des intégrations aux chambres de compensation et des pipelines EDI. Créez le routage de l’éligibilité et des règles évolutives pour le cycle de revenus.

Ouvrir
Nubank

Ingénieur logiciel principal senior, plateforme backend

Nubank
5 001 – 10 000 Employés
FintechServices bancaires

Dirigez le développement de services backend distribués et d’API pour la plateforme financière mondiale de Nubank. Prenez en charge des systèmes internes fiables qui accompagnent les équipes produit de toute l’organisation.

Ouvrir
OpenAI

Ingénieur logiciel, infrastructure des identités

OpenAI

Concevez et gérez des proxys d’accès sécurisés et hautement évolutifs ainsi que des services d’identité pour la plateforme de recherche et de déploiement d’OpenAI. Menez des systèmes distribués de la conception à la production.

Ouvrir
Honeywell Aerospace Technologies

Ingénieur logiciel II, logiciels aérospatiaux

Honeywell Aerospace Technologies

Développez et testez des logiciels embarqués pour des systèmes aérospatiaux chez Honeywell Aerospace Technologies. Collaborez avec des équipes d’ingénierie à l’intégration du matériel, au débogage et à la création de solutions fiables pour les systèmes de vol.

Ouvrir