TMTG, de afkorting van Trump Media & Technology Group, is een media- en technologiebedrijf. De platforms richten zich op sociale media, streamingentertainment, nieuws en cultuur. Het bedrijf biedt gebruikers en makers ruimte om content te delen en te publiceren, en profileert zijn diensten als alternatief voor de verhalen van de gevestigde media.
Senior backend engineer voor AI-platform
Bouw productieklare LLM-functies en de fundamentele AI-infrastructuur voor een socialmediaplatform met miljoenen gebruikers. Leid retrieval, model serving, evaluatie en veiligheidssystemen.
Beschrijving
- Ontwikkel AI-functies voor een socialmediaplatform met miljoenen gebruikers.
- Werk nauw samen met de platformarchitect en het engineeringteam.
- Bouw de fundamentele AI-infrastructuur in een greenfieldomgeving.
- Help engineeringpraktijken vorm te geven terwijl het team groeit.
- Koppel diensten aan Ruby on Rails- en React/TypeScript-applicaties.
- Draag verantwoordelijkheid voor backenddiensten, van het ontwerpen van dataschema's tot implementatie en wachtdiensten.
- Bouw en beheer systemen voor LLM-serving, retrieval, evaluatie, instrumentatie en veiligheid.
Vereisten
- Minimaal vijf jaar ervaring met backendontwikkeling in een statisch getypeerde taal zoals Go, Java, Kotlin of C#.
- Ervaring met het in productie leveren van LLM-functies, waaronder retrieval-augmented generation, streamingreacties en toolgebruik.
- Praktische ervaring met LLM-servinginfrastructuur, waaronder routing via meerdere providers, failover, tokenstreaming en het bijhouden van kosten en gebruik.
- Ervaring met het bouwen van retrievsystemen met vector search, embeddingpipelines, contextopbouw en antwoorden met bronvermelding.
- Vermogen om hallucinaties, fouten in retrieval, providerstoringen en kostenoverschrijdingen te instrumenteren.
- Ervaring met het beoordelen van de kwaliteit van AI-antwoorden op relevantie, veiligheid, bronkwaliteit en reproduceerbaarheid.
- Sterke vaardigheden in API-ontwerp.
- Vermogen om een dienst zelfstandig te beheren, van schemaontwerp tot implementatie en ondersteuning tijdens wachtdiensten.
- Gevestigd in de Verenigde Staten en bevoegd om daar te werken.
- Go heeft sterk de voorkeur.
- Ervaring met Python.
- Ervaring met LLM-gateways of servingtools zoals LiteLLM, vLLM of TGI.
- Ervaring met vectordatabases zoals Qdrant of pgvector en met embeddingpipelines.
- Ervaring met het finetunen van open-weightsmodellen met LoRA of volledige finetuning.
- Ervaring met tools voor contentmoderatie of veiligheid.
- Bekendheid met Ruby on Rails of React/TypeScript.