TMTG, eller Trump Media & Technology Group, er et medie- og teknologiselskap med plattformer for sosiale medier, strømming av underholdning, nyheter og kultur. Selskapet gir brukere og innholdsskapere rom til å dele og publisere innhold, og presenterer tjenestene sine som alternativer til etablerte mediers perspektiver.
Senior backendutvikler, AI-plattform
Bygg produksjonsklare LLM-funksjoner og grunnleggende AI-infrastruktur for en sosial medieplattform med millioner av brukere. Led arbeidet med informasjonsinnhenting, modellservering, evaluering og sikkerhetssystemer.
Beskrivelse
- Utvikle AI-funksjoner for en sosial medieplattform med millioner av brukere.
- Samarbeid tett med plattformarkitekten og utviklingsteamet.
- Skap grunnleggende AI-infrastruktur i et miljø som bygges fra grunnen av.
- Bidra til å utforme utviklingspraksis etter hvert som teamet vokser.
- Koble tjenester til Ruby on Rails- og React/TypeScript-applikasjoner.
- Ha ansvar for backendtjenester fra utforming av dataskjemaer til utrulling og vaktordning.
- Bygg og drift systemer for LLM-servering, informasjonsinnhenting, evaluering, instrumentering og sikkerhet.
Krav
- Minst fem års erfaring med backendutvikling i et statisk typet språk som Go, Java, Kotlin eller C#.
- Produksjonserfaring med å levere LLM-drevne funksjoner, inkludert retrieval-augmented generation, strømmende svar og bruk av verktøy.
- Praktisk erfaring med infrastruktur for LLM-servering, inkludert ruting mellom flere leverandører, failover, tokenstrømming og sporing av kostnader og bruk.
- Erfaring med å bygge systemer for informasjonsinnhenting med vektorsøk, embedding-pipelines, sammenstilling av kontekst og svar med kildehenvisninger.
- Evne til å instrumentere hallusinasjoner, feil i informasjonsinnhenting, leverandørutfall og kostnadsoverskridelser.
- Erfaring med å evaluere kvaliteten på AI-svar med hensyn til relevans, sikkerhet, kildekvalitet og reproduserbare resultater.
- Gode ferdigheter innen API-design.
- Evne til å ha ansvar for en tjeneste fra skjemautforming til utrulling og vaktstøtte.
- Bosatt i USA og autorisert til å arbeide der.
- Go er sterkt foretrukket.
- Erfaring med Python.
- Erfaring med LLM-gatewayer eller serveringsverktøy som LiteLLM, vLLM eller TGI.
- Erfaring med vektordatabaser som Qdrant eller pgvector og med embedding-pipelines.
- Erfaring med finjustering av modeller med åpne vekter ved hjelp av LoRA eller full finjustering.
- Erfaring med innholdsmoderering eller sikkerhetsverktøy.
- Kjennskap til Ruby on Rails eller React/TypeScript.