Tether.to est une entreprise d’actifs numériques spécialisée dans les infrastructures de stablecoins et les paiements fondés sur la blockchain. Ses tokens Tether sont conçus pour maintenir une valeur de un pour un avec les monnaies fiduciaires correspondantes et peuvent être transférés sur plusieurs blockchains, facilitant ainsi les transactions numériques et les paiements transfrontaliers. L’entreprise publie également des informations sur ses actifs et ses réserves et développe des initiatives éducatives destinées à approfondir la compréhension et l’utilisation des actifs numériques, notamment au Moyen-Orient, en Turquie et aux Philippines. Grâce à ses activités dans les domaines des cryptomonnaies, de la fintech et de la finance, Tether.to contribue au développement d’infrastructures financières alternatives et d’applications de monnaies numériques stables.
Ingénieur de recherche en IA – Optimisation des kernels et de l’inférence, Europe en télétravail
Optimisez les kernels GPU, le serving des modèles et les systèmes d’inférence pour la plateforme de finance numérique de Tether fondée sur la blockchain. Améliorez la latence, le débit et l’efficacité mémoire sur les appareils mobiles et edge.
Description
- Concevoir et déployer des architectures de serving de modèles qui maximisent le débit, minimisent la latence et utilisent efficacement la mémoire.
- Améliorer les performances d’inférence sur des appareils aux ressources limitées et des plateformes edge.
- Définir des objectifs de performance pour la latence, les temps de réponse des tokens et l’empreinte mémoire.
- Construire, exécuter et superviser des tests d’inférence contrôlés dans des environnements simulés et de production.
- Superviser les indicateurs de performance liés à la latence, au débit, à l’utilisation mémoire et au taux d’erreur.
- Consigner les résultats itératifs et comparer les résultats aux benchmarks multiplateformes établis.
- Développer des jeux de données de test et des scénarios de simulation pour des conditions de déploiement à faibles ressources.
- Évaluer l’efficacité computationnelle et identifier les goulets d’étranglement dans les pipelines de serving.
- Optimiser le batching, les délais réseau, l’utilisation mémoire, l’évolutivité et la fiabilité.
- Collaborer avec des équipes transversales pour intégrer des frameworks optimisés de serving et d’inférence aux pipelines de production edge et sur appareil.
- Définir les indicateurs de réussite, surveiller continuellement les performances et affiner les solutions de manière itérative.
Exigences
- Diplôme en informatique ou dans une discipline connexe.
- Un doctorat en TAL, apprentissage automatique ou domaine connexe est préférable.
- Expérience avérée en recherche et développement en IA, avec notamment des publications solides dans des conférences A*.
- Maîtrise pratique du langage de shading Metal (MSL).
- Capacité à créer des compute shaders personnalisés à partir de zéro.
- Expérience dans l’optimisation de kernels bas niveau et de l’inférence sur appareils mobiles.
- Résultats démontrant l’amélioration de la latence d’inférence, du débit et de l’empreinte mémoire pour des applications spécifiques à un domaine.
- Compréhension avancée des architectures modernes de serving de modèles et des méthodes d’optimisation de l’inférence.
- Solide expérience de l’écriture de kernels GPU pour smartphones et autres appareils mobiles.
- Connaissance avancée des frameworks de serving de modèles et des moteurs d’inférence.
- Expérience pratique du développement et du déploiement de pipelines d’inférence de bout en bout sur des appareils aux ressources limitées.
- Capacité à appliquer une recherche empirique aux défis de serving liés à la latence, aux goulets d’étranglement computationnels et aux limites mémoire.
- Maîtrise de la conception de frameworks d’évaluation et de l’itération des approches d’optimisation.
- Expérience des systèmes d’inférence distribuée, notamment du parallélisme tensoriel, pipeline et d’experts.
- Compréhension avancée des mathématiques et de l’architecture des modèles de diffusion et des Vision Transformers.
- Connaissance du pruning, de la quantification, de Flash Attention, du cache KV et du décodage spéculatif avec Eagle.
Avantages
- Travaillez à distance depuis n’importe où dans le monde.
- Collaborez avec une équipe internationale.
- Contribuez à des produits de fintech, de blockchain, d’intelligence artificielle et de finance numérique.