MWDN
MWDN
MWDN è un'azienda di servizi IT e sviluppo software che aiuta le organizzazioni a creare e ampliare prodotti digitali per piattaforme web, mobili e desktop. Il suo team interno di ingegneria supporta la realizzazione dei progetti dei clienti attraverso l'ampliamento del personale, team di sviluppo dedicati e il reclutamento globale di professionisti IT. Con centri di sviluppo nell'Europa centrale e orientale, MWDN mette in contatto organizzazioni negli Stati Uniti, in Europa e in Israele con talenti del software per progetti tecnologici personalizzati e attenti ai costi.

Ingegnere CUDA per l’inferenza LLM (da remoto, Uzbekistan)

Ottimizza l’inferenza LLM su GPU moderne, lavorando con kernel CUDA e framework di serving. Unisciti a MWDN per progetti di sistemi di IA e calcolo ad alte prestazioni.

Descrizione

  • Migliorare le prestazioni dell’inferenza LLM su GPU moderne.
  • Utilizzare framework di inferenza e serving come vLLM, SGLang e TensorRT-LLM.
  • Esaminare l’esecuzione su GPU, l’accesso alla memoria, le prestazioni dei kernel e i colli di bottiglia dell’inferenza.
  • Creare, ottimizzare, correggere o sottoporre a reverse engineering kernel CUDA e operazioni GPU di basso livello.
  • Studiare metodi di ottimizzazione per la moltiplicazione di matrici, l’attenzione e i livelli delle reti neurali.
  • Valutare i sistemi e trovare modi per migliorare latenza, throughput e utilizzo della GPU.
  • Affrontare problemi complessi che riguardano i sistemi di IA e il calcolo ad alte prestazioni.
  • Condurre esperimenti pratici ed esaminare il comportamento del sistema a basso livello.

Requisiti

  • Avere una solida esperienza pratica con CUDA e la programmazione GPU.
  • Conoscere a fondo l’architettura GPU, le gerarchie di memoria, l’esecuzione parallela e l’ottimizzazione delle prestazioni.
  • Avere esperienza nell’inferenza LLM, nei sistemi di IA, nei kernel GPU o nel calcolo ad alte prestazioni.
  • Conoscere almeno uno tra vLLM, SGLang, TensorRT-LLM, Triton e FlashAttention.
  • Saper diagnosticare problemi complessi di prestazioni e analizzare il comportamento del sistema a basso livello.
  • Avere solide capacità di risoluzione dei problemi.
  • Comunicare efficacemente idee tecniche complesse in inglese.
  • Un dottorato o un’esperienza di ricerca in informatica, apprendimento automatico, architettura dei calcolatori o disciplina affine costituisce un titolo preferenziale.
  • Pubblicazioni di ricerca, progetti o contributi sostanziali a progetti open source nell’infrastruttura GPU o LLM costituiscono un titolo preferenziale.
  • L’esperienza con gli interni di PyTorch, l’inferenza distribuita, la quantizzazione, l’ottimizzazione della cache KV o kernel GPU personalizzati costituisce un titolo preferenziale.
  • I contributi a vLLM, SGLang, Triton, FlashAttention o repository correlati costituiscono un titolo preferenziale.

Benefit

  • Procedura di selezione dei clienti pensata per ridurre i rischi e favorire pagamenti puntuali e affidabili.
  • Orientamento professionale e supporto nell’individuare opportunità future.
  • Consulenza legale sul lavoro autonomo o sull’attività come ditta individuale, sulle imposte e su questioni correlate.
  • Lezioni di inglese e opportunità di sviluppo professionale.
  • Attività di team building.
  • Orario di lavoro flessibile.
  • 29 giorni di ferie retribuite: 18 giorni lavorativi all’anno più le festività nazionali.
  • 10 giorni retribuiti per il recupero.
  • Assistenza finanziaria e legale per i collaboratori autonomi.
  • Lezioni gratuite di inglese con madrelingua o insegnanti ucraini.
  • Supporto dedicato delle risorse umane.
  • Gestione attenta alle persone e con poca burocrazia.
  • Una cultura aziendale accogliente.

Offerte correlate

Nessuna offerta di lavoro trovata

Prova a modificare o cancellare i filtri per trovare altre opportunità.