LogoFresh Jobs Ahead
STN Incorporated
STN Incorporated
11 – 50 Dipendenti
HardwareImpresaSicurezza informatica
STN Incorporated fornisce servizi IT gestiti e infrastrutture cloud a imprese e team che sviluppano software, sistemi di IA e robotica essenziali per il business. I suoi servizi comprendono cloud privati basati su CPU, infrastrutture di IA GPU One, reti e archiviazione sicure e operazioni cloud continuative, con assistenza umana 24 ore su 24, 7 giorni su 7, e accordi sul livello di servizio che garantiscono un’elevata disponibilità. L’azienda gestisce inoltre le operazioni di cybersicurezza e la risposta agli incidenti, la conformità e la gestione dei rischi, il backup e il ripristino, nonché l’approvvigionamento tecnologico e la gestione del ciclo di vita. STN serve aziende SaaS, sviluppatori di IA e modelli, imprese di robotica e organizzazioni soggette a regolamentazione, inclusi gli operatori sanitari, con infrastrutture progettate per favorire la preparazione agli audit e l’aderenza a framework come SOC 2 Type II e HIPAA.
LinkedIn
Offerte dell’azienda

Responsabile senior dell’ottimizzazione dei carichi di inferenza

Guida l’ottimizzazione delle prestazioni GPU per i carichi di lavoro AI dei clienti sulla piattaforma di data center autonomi di STN. Trasforma le competenze di ottimizzazione in correzioni eseguibili dagli agenti e supervisiona il servizio interno dei modelli.

USStati UnitiDa remotoTempo pienoSeniorLingua Richiesta: ingleseIntelligenza artificiale

Descrizione

  • Analizza i carichi di training e inferenza dei clienti per individuare colli di bottiglia nelle prestazioni relativi al caricamento dei dati, alla comunicazione collettiva, alla larghezza di banda della memoria, ai kernel, al batching e al parallelismo.
  • Definisce i riferimenti prestazionali per ogni generazione hardware, iniziando dai sistemi NVIDIA attuali.
  • Trasforma le competenze di ottimizzazione in correzioni che gli agenti possono applicare ai cluster dei clienti.
  • Ottimizza i carichi di lavoro con i clienti che hanno capacità impegnata, direttamente o tramite i loro team operativi.
  • Come responsabilità secondaria, gestisce il servizio interno dei modelli, inclusi l’instradamento attento a costi e latenza e le migrazioni tra versioni dei modelli.
  • Fornisce consulenza sull’allocazione delle GPU tra l’inferenza interna e i carichi di lavoro dei clienti.

Requisiti

  • Ha una profonda esperienza nell’ingegneria delle prestazioni GPU, inclusi profilazione, comportamento della memoria e della larghezza di banda e comprensione a livello di kernel.
  • Ha conoscenza pratica di stack di serving come vLLM, SGLang o TensorRT-LLM, inclusi batching, gestione della cache KV e compromessi della quantizzazione.
  • Ha esperienza con training e inferenza distribuiti su larga scala, inclusi parallelismo tensoriale, di pipeline e dei dati.
  • Ha esperienza nell’ottimizzazione della comunicazione collettiva, come NCCL.
  • Padroneggia strumenti di profilazione come Nsight, DCGM e i profiler a livello di framework.
  • Sa spiegare ai clienti i risultati delle analisi prestazionali e codificare soluzioni per un agente.
  • Costituiscono un plus: sviluppo di kernel CUDA, distribuzione su larga scala di modelli open-weight, progettazione di benchmark e precedente esperienza tecnica a contatto con i clienti.

Offerte correlate

Gramian Consulting

Specialista di ricerca e valutazione delle conversazioni con l’IA

Gramian Consulting
ConsulenzaLogisticaMarketing
AUAustraliaCACanadaGBRegno UnitoIEIrlandaSAArabia SauditaUSStati UnitiDa remotoTempo pienoIntermedioSeniorLingua Richiesta: ingleseIntelligenza artificiale

Gramian Consulting cerca una persona che valuti le conversazioni con l’IA per migliorare la qualità delle raccomandazioni generate dall’IA. Il ruolo prevede analisi qualitative strutturate per valutare situazioni interpersonali e individuare il contesto mancante.

Apri
CDW

Ingegnere consulente per infrastrutture IA, calcolo e storage

CDW
Sponsor per visto H1BAssistenza sanitariaConsulenzaIstruzione
USStati Uniti
77.725 $ – 108.265 $ / anno
Da remotoTempo pienoIntermedioSeniorLingua Richiesta: ingleseIntelligenza artificiale
KubernetesLinuxNFS

Progetta e convalida soluzioni di calcolo con GPU e storage ad alte prestazioni per carichi di lavoro aziendali di IA e machine learning. Aiuta i clienti CDW a implementare infrastrutture per l’addestramento, il fine-tuning e l’inferenza IA.

Apri
Salesforce

Responsabile senior dell’innovazione IA per le scienze della vita

Salesforce
Sponsor per visto H1BConsulenzaMarketingSaaS
USStati UnitiCACaliforniaILIllinoisNJNew JerseyVAVirginia
191.100 $ – 320.600 $ / anno
Da remotoTempo pienoSeniorLingua Richiesta: ingleseIntelligenza artificiale
Cloud

Guida la strategia di delivery dell’IA di Salesforce per le scienze della vita, sviluppando capacità riutilizzabili e promuovendo la trasformazione dei clienti. Coordina un team globale che comprende prodotto, ingegneria e servizi professionali.

Apri