TMTG, o Trump Media & Technology Group, è un'azienda di media e tecnologia le cui piattaforme si concentrano sui social media, sull'intrattenimento in streaming, sulle notizie e sulla cultura. Offre spazi in cui utenti e creatori possono condividere e pubblicare contenuti, presentando i propri servizi come alternative alle narrazioni dei media tradizionali.
Ingegnere backend senior, piattaforma IA
Realizza funzionalità LLM pronte per la produzione e infrastrutture IA fondamentali per una piattaforma social con milioni di utenti. Guida i sistemi di recupero, erogazione dei modelli, valutazione e sicurezza.
Descrizione
- Sviluppa funzionalità IA per una piattaforma social con milioni di utenti.
- Collabora a stretto contatto con l’architetto della piattaforma e il team di ingegneria.
- Crea infrastrutture IA fondamentali in un ambiente greenfield.
- Contribuisce a definire le pratiche ingegneristiche man mano che il team cresce.
- Collega i servizi alle applicazioni Ruby on Rails e React/TypeScript.
- Gestisce i servizi backend dalla progettazione dello schema dei dati fino al deployment e alle operazioni di reperibilità.
- Crea e gestisce sistemi di erogazione degli LLM, recupero, valutazione, strumentazione e sicurezza.
Requisiti
- Almeno cinque anni di esperienza nell’ingegneria backend con un linguaggio a tipizzazione statica, come Go, Java, Kotlin o C#.
- Esperienza in produzione nella realizzazione di funzionalità basate su LLM, tra cui generazione aumentata dal recupero, risposte in streaming e uso di strumenti.
- Esperienza pratica con infrastrutture per l’erogazione di LLM, compresi instradamento tra più provider, failover, streaming dei token e monitoraggio di costi e utilizzo.
- Esperienza nella creazione di sistemi di recupero con ricerca vettoriale, pipeline di embedding, assemblaggio del contesto e risposte corredate da citazioni.
- Capacità di strumentare allucinazioni, errori di recupero, interruzioni dei provider e sforamenti dei costi.
- Esperienza nella valutazione della qualità delle risposte IA in termini di pertinenza, sicurezza, qualità delle fonti e ripetibilità dei risultati.
- Ottime capacità di progettazione di API.
- Capacità di seguire un servizio dalla progettazione dello schema fino al deployment e al supporto di reperibilità.
- Residenza negli Stati Uniti e autorizzazione a lavorarvi.
- Go è fortemente preferito.
- Esperienza con Python.
- Esperienza con gateway LLM o strumenti di erogazione, come LiteLLM, vLLM o TGI.
- Esperienza con database vettoriali come Qdrant o pgvector e con pipeline di embedding.
- Esperienza nell’affinamento di modelli open-weight con LoRA o con fine-tuning completo.
- Esperienza con strumenti di moderazione dei contenuti o di sicurezza.
- Familiarità con Ruby on Rails o React/TypeScript.