
MWDN è un'azienda di servizi IT e sviluppo software che aiuta le organizzazioni a creare e ampliare prodotti digitali per piattaforme web, mobili e desktop. Il suo team interno di ingegneria supporta la realizzazione dei progetti dei clienti attraverso l'ampliamento del personale, team di sviluppo dedicati e il reclutamento globale di professionisti IT. Con centri di sviluppo nell'Europa centrale e orientale, MWDN mette in contatto organizzazioni negli Stati Uniti, in Europa e in Israele con talenti del software per progetti tecnologici personalizzati e attenti ai costi.
Ingegnere CUDA per l’inferenza LLM (da remoto, Uzbekistan)
Ottimizza l’inferenza LLM su GPU moderne, lavorando con kernel CUDA e framework di serving. Unisciti a MWDN per progetti di sistemi di IA e calcolo ad alte prestazioni.
Descrizione
- Migliorare le prestazioni dell’inferenza LLM su GPU moderne.
- Utilizzare framework di inferenza e serving come vLLM, SGLang e TensorRT-LLM.
- Esaminare l’esecuzione su GPU, l’accesso alla memoria, le prestazioni dei kernel e i colli di bottiglia dell’inferenza.
- Creare, ottimizzare, correggere o sottoporre a reverse engineering kernel CUDA e operazioni GPU di basso livello.
- Studiare metodi di ottimizzazione per la moltiplicazione di matrici, l’attenzione e i livelli delle reti neurali.
- Valutare i sistemi e trovare modi per migliorare latenza, throughput e utilizzo della GPU.
- Affrontare problemi complessi che riguardano i sistemi di IA e il calcolo ad alte prestazioni.
- Condurre esperimenti pratici ed esaminare il comportamento del sistema a basso livello.
Requisiti
- Avere una solida esperienza pratica con CUDA e la programmazione GPU.
- Conoscere a fondo l’architettura GPU, le gerarchie di memoria, l’esecuzione parallela e l’ottimizzazione delle prestazioni.
- Avere esperienza nell’inferenza LLM, nei sistemi di IA, nei kernel GPU o nel calcolo ad alte prestazioni.
- Conoscere almeno uno tra vLLM, SGLang, TensorRT-LLM, Triton e FlashAttention.
- Saper diagnosticare problemi complessi di prestazioni e analizzare il comportamento del sistema a basso livello.
- Avere solide capacità di risoluzione dei problemi.
- Comunicare efficacemente idee tecniche complesse in inglese.
- Un dottorato o un’esperienza di ricerca in informatica, apprendimento automatico, architettura dei calcolatori o disciplina affine costituisce un titolo preferenziale.
- Pubblicazioni di ricerca, progetti o contributi sostanziali a progetti open source nell’infrastruttura GPU o LLM costituiscono un titolo preferenziale.
- L’esperienza con gli interni di PyTorch, l’inferenza distribuita, la quantizzazione, l’ottimizzazione della cache KV o kernel GPU personalizzati costituisce un titolo preferenziale.
- I contributi a vLLM, SGLang, Triton, FlashAttention o repository correlati costituiscono un titolo preferenziale.
Benefit
- Procedura di selezione dei clienti pensata per ridurre i rischi e favorire pagamenti puntuali e affidabili.
- Orientamento professionale e supporto nell’individuare opportunità future.
- Consulenza legale sul lavoro autonomo o sull’attività come ditta individuale, sulle imposte e su questioni correlate.
- Lezioni di inglese e opportunità di sviluppo professionale.
- Attività di team building.
- Orario di lavoro flessibile.
- 29 giorni di ferie retribuite: 18 giorni lavorativi all’anno più le festività nazionali.
- 10 giorni retribuiti per il recupero.
- Assistenza finanziaria e legale per i collaboratori autonomi.
- Lezioni gratuite di inglese con madrelingua o insegnanti ucraini.
- Supporto dedicato delle risorse umane.
- Gestione attenta alle persone e con poca burocrazia.
- Una cultura aziendale accogliente.
Offerte correlate
Nessuna offerta di lavoro trovata
Prova a modificare o cancellare i filtri per trovare altre opportunità.