LogoFresh Jobs Ahead
adaption
adaption
1 – 10 Dipendenti
ConsulenzaLogisticaMarketing
adaption sviluppa sistemi e strumenti di intelligenza artificiale adattiva progettati per adattare l’intelligenza ai singoli utenti, alle lingue, ai settori e ai casi specializzati. Il suo lavoro comprende Adaptive Data, Adaptive Intelligence e Adaptive Interfaces: approcci che aiutano i modelli ad adattarsi continuamente e favoriscono esperienze utente più reattive, senza dipendere in misura altrettanto elevata da istruzioni manuali o da un unico modello monolitico. La tecnologia dell’azienda è rilevante per le organizzazioni che esplorano applicazioni pratiche dell’IA in ambiti come la consulenza, la logistica e il marketing.
LinkedIn
Offerte dell’azienda

Ingegnere dell’inferenza — Adaption (ibrido, Bay Area)

Ottimizza l’infrastruttura di inferenza per aumentare il throughput, ridurre i costi e minimizzare la latenza in Adaption, un’azienda di IA che sviluppa sistemi di intelligenza adattiva. Migliora il serving dei modelli su GPU, i motori di inferenza e i carichi di lavoro di produzione.

USStati UnitiCACaliforniaIbridoTempo pienoIntermedioSeniorLingua Richiesta: ingleseIngegnere
C++PythonRust

Descrizione

  • Assumere la responsabilità dei costi e delle prestazioni dello stack di inferenza.
  • Aumentare il throughput e ridurre i costi e la latenza di coda attraverso la gestione della cache KV, il batching continuo, la decodifica speculativa e la quantizzazione.
  • Ottimizzare i carichi di lavoro di prefill e decode su contesti lunghi rispetto al traffico reale di produzione.
  • Adattare il routing tra l’infrastruttura interna e i provider esterni in base a costi, capacità e prestazioni.
  • Utilizzare motori di serving come vLLM, SGLang e TensorRT-LLM, intervenendo sotto il framework quando necessario.
  • Sviluppare sistemi di profiling e misurazione per individuare l’utilizzo di tempo, memoria e risorse di calcolo.
  • Collaborare a stretto contatto con gli ingegneri responsabili della flotta di serving.

Requisiti

  • Avere almeno cinque anni di esperienza in sistemi di ML, infrastruttura di inferenza o ingegneria delle prestazioni, con miglioramenti misurabili in termini di costi o latenza.
  • Dimostrare una conoscenza approfondita del serving dei modelli, inclusi prefill e decode, larghezza di banda della memoria, batching e concorrenza.
  • Avere esperienza in produzione con motori di serving come vLLM, SGLang o TensorRT-LLM.
  • Utilizzare Python con sicurezza e avere una buona padronanza di C++, Rust o di un altro linguaggio di programmazione di sistema.
  • Comprendere gli aspetti delle prestazioni delle GPU, tra cui CUDA, NCCL, precisione mista, disposizione della memoria, kernel o quantizzazione.
  • Essere in grado di lavorare in presenza nella Bay Area secondo un modello ibrido.

Benefit

  • Combinare la collaborazione in presenza nella Bay Area con un team distribuito e global-first, oltre a partecipare agli incontri del team.
  • Ricevere un’indennità annuale di viaggio Adaption Passport per esplorare un Paese che non hai mai visitato prima.
  • Avere a disposizione un’indennità settimanale per pasti da asporto o consegna della spesa.
  • Accedere a una copertura medica completa e a generose ferie retribuite.

Offerte correlate

General Dynamics Information Technology

Ingegnere senior e architetto IA

General Dynamics Information Technology
Sponsor per visto H1BAssistenza sanitariaConsulenzaLogistica
USStati Uniti
149.469 $ – 201.250 $ / anno
Da remotoTempo pienoSeniorLeadLingua Richiesta: ingleseIngegnere AIIngegnere del machine learning
AWSAzureCloudJavaPythonRustSistemi distribuiti

Guida l’architettura di IA, apprendimento automatico e modelli linguistici di grandi dimensioni per le missioni governative, di difesa e di intelligence di General Dynamics Information Technology. Porta le soluzioni dalla prova di concetto alla produzione in contesti operativi complessi.

Apri
Lyra Health

Vicepresidente della contabilità globale presso Lyra Health

Lyra Health
501 – 1000 Dipendenti
Sponsor per visto H1BAssicurazione sanitariaAssistenza sanitariaSaaS
USStati Uniti
213.030 $ – 286.670 $ / anno
Da remotoTempo pienoLeadLingua Richiesta: ingleseVicepresidente

Guida l’organizzazione contabile globale di Lyra Health mentre si prepara a presentare rendiconti come società quotata. Supervisiona rendicontazione finanziaria, controlli SOX, tesoreria, automazione e trasformazione contabile.

Apri