LogoFresh Jobs Ahead
Baseten
Baseten
11 – 50 Dipendenti
Sponsor per visto H1BImpresaIntelligenza artificialeSaaS
Baseten fornisce infrastrutture per l’inferenza dei modelli alle aziende che implementano applicazioni di machine learning e intelligenza artificiale. La sua piattaforma è progettata per offrire un servizio rapido e scalabile, combinando inferenza ad alta capacità, distribuzione veloce, autoscaling, gestione sicura dei modelli per le aziende e supporto per il packaging di modelli open source. Baseten aiuta i team di ingegneria e machine learning a gestire le esigenze operative dell’infrastruttura dei modelli, così che possano concentrarsi sullo sviluppo di modelli specifici per il proprio settore. L’azienda opera nei settori dell’intelligenza artificiale, del software come servizio e della tecnologia aziendale, con un team composto da 11-50 dipendenti.
LinkedIn
Offerte dell’azienda

Ingegnere del software, piattaforma di inferenza LLM - Baseten ibrido

Costruisci la piattaforma distribuita di inferenza LLM di Baseten per le aziende di IA. Lavora su orchestrazione Kubernetes, API dei modelli, routing, autoscaling e osservabilità in produzione.

USStati UnitiCACaliforniaNYNew YorkWAWashington
180.000 $ – 360.000 $ / anno
IbridoTempo pienoIntermedioSeniorLingua Richiesta: ingleseIngegnere del softwareIngegnere full-stack
KubernetesSistemi distribuiti

Descrizione

  • Costruisci infrastruttura e orchestrazione per l’inferenza LLM distribuita su larga scala, occupandoti di routing, autoscaling, pianificazione e gestione del runtime.
  • Sviluppa e gestisci API dei modelli che supportano output strutturati, chiamate a strumenti e funzioni e serving multimodale.
  • Implementa il versionamento delle API, la validazione delle richieste, la misurazione dell’utilizzo, le quote e l’autenticazione.
  • Crea strumentazione per metriche, trace e log, insieme a benchmark ripetibili per velocità, affidabilità e qualità.
  • Definisci pratiche solide per i test, l’automazione dei rilasci e l’eccellenza operativa.
  • Diagnostica e rafforza i sistemi di produzione basati su Kubernetes, runtime distribuiti, reti e carichi di lavoro GPU.
  • Collabora con gli ingegneri delle prestazioni di inferenza e i team partner per fornire ottimizzazioni rivolte ai clienti.
  • Guida i progetti dall’architettura e dal deployment fino al monitoraggio e all’iterazione basata sul feedback dei clienti.
  • Bilancia prestazioni del sistema, affidabilità, semplicità operativa ed esperienza degli sviluppatori.

Requisiti

  • Laurea triennale, magistrale o dottorato in informatica, ingegneria o un campo correlato, oppure esperienza pratica equivalente.
  • Almeno tre anni di esperienza nella creazione e gestione di sistemi distribuiti, infrastrutture backend o API su larga scala in cui affidabilità, latenza e scalabilità siano fondamentali.
  • Comprovata esperienza nella gestione di servizi backend affidabili e a bassa latenza che coinvolgono limitazione della velocità, autenticazione, quote, misurazione e migrazioni.
  • Solido giudizio in materia di infrastruttura, inclusa esperienza con profiling, tracing, pianificazione della capacità e gestione degli SLO.
  • Capacità di diagnosticare problemi di prestazioni e affidabilità attraverso i livelli applicativo, runtime e infrastrutturale.
  • Forte attenzione all’esperienza degli sviluppatori.
  • Disponibilità a imparare nuovi linguaggi, framework e sistemi, con interesse per l’ingegneria dell’inferenza.
  • Eccellenti capacità di comunicazione scritta e collaborazione, inclusa una documentazione progettuale chiara e un efficace lavoro interfunzionale.
  • L’esperienza o i contributi a motori o framework di inferenza LLM come vLLM, SGLang, TensorRT-LLM, TGI o Dynamo costituiscono un vantaggio.
  • Profonda esperienza con Kubernetes, inclusi operatori e risorse personalizzate; la familiarità con service mesh o gateway API costituisce un vantaggio.
  • L’esperienza con pianificazione distribuita, autoscaling o orchestrazione dei servizi costituisce un vantaggio.
  • L’esperienza nella gestione di carichi di lavoro GPU in produzione costituisce un vantaggio.
  • Un background in infrastrutture o API rivolte agli sviluppatori, oppure contributi a infrastrutture open source o sistemi di machine learning, costituisce un vantaggio.
  • La familiarità con strumenti di osservabilità, sistemi CI/CD o automazione dei rilasci costituisce un vantaggio.

Benefit

  • Compenso competitivo con una partecipazione significativa al capitale.
  • Per i dipendenti e i familiari a carico negli Stati Uniti, copertura completa delle assicurazioni medica, dentistica e oculistica.
  • Ferie retribuite flessibili, inclusa una pausa invernale aziendale.
  • Congedo parentale retribuito.
  • Supporto alla fertilità e alla creazione di una famiglia tramite un contributo Carrot.
  • Per i dipendenti negli Stati Uniti, un piano 401(k) facilitato dall’azienda.
  • Esposizione a una varietà di startup di machine learning, con ampie opportunità di apprendimento e networking professionale.

Offerte correlate

Centorrino Technologies

Specialista in gestione dei rischi — Australia (da remoto)

Centorrino Technologies
201 – 500 Dipendenti
Assistenza sanitariaConsulenzaLogistica
AUAustraliaDa remotoContrattoIntermedioSeniorLingua Richiesta: ingleseAssicurazioni
ServiceNow

Implementa un sistema di gestione dei rischi per organizzazioni australiane soggette a regolamentazione, traducendo le esigenze di governance in configurazione, test, reportistica e adozione. Collabora con le parti interessate lungo tutto il ciclo di implementazione su dati di rischio, controlli e report per la dirigenza.

Apri
Mercor

Specialista in test avversariali per la sicurezza dell’IA

Mercor
51 – 200 Dipendenti
USStati Uniti
70 $ – 84 $ / ora
Da remotoContrattoIntermedioSeniorLingua Richiesta: ingleseIntelligenza artificiale
Sicurezza informatica

Mercor cerca uno specialista in test avversariali per la sicurezza dell’IA che metta alla prova modelli all’avanguardia con prompt avversariali. Il lavoro consiste nell’individuare vulnerabilità e aiutare i laboratori partner a migliorare l’allineamento, la robustezza e la sicurezza dei modelli.

Apri