TMTG, eller Trump Media & Technology Group, är ett medie- och teknikföretag med plattformar inriktade på sociala medier, strömmande underhållning, nyheter och kultur. Företaget erbjuder användare och innehållsskapare utrymme att dela och publicera innehåll och presenterar sina tjänster som alternativ till etablerade mediers perspektiv.
Senior backendutvecklare, AI-plattform
Bygg produktionsklara LLM-funktioner och grundläggande AI-infrastruktur för en social medieplattform med miljontals användare. Led arbetet med informationshämtning, modellservering, utvärdering och säkerhetssystem.
Beskrivning
- Utveckla AI-funktioner för en social medieplattform med miljontals användare.
- Samarbeta nära med plattformsarkitekten och utvecklingsteamet.
- Skapa grundläggande AI-infrastruktur i en miljö från grunden.
- Hjälp till att utforma utvecklingsmetoder i takt med att teamet växer.
- Anslut tjänster till Ruby on Rails- och React/TypeScript-applikationer.
- Ansvara för backendtjänster från utformning av datascheman till driftsättning och jourarbete.
- Bygg och drifta system för LLM-servering, informationshämtning, utvärdering, instrumentering och säkerhet.
Krav
- Minst fem års erfarenhet av backendutveckling med ett statiskt typat språk som Go, Java, Kotlin eller C#.
- Erfarenhet av att leverera LLM-drivna funktioner i produktion, inklusive retrieval-augmented generation, strömmande svar och verktygsanvändning.
- Praktisk erfarenhet av infrastruktur för LLM-servering, inklusive dirigering mellan flera leverantörer, reservlösningar, strömning av token samt uppföljning av kostnader och användning.
- Erfarenhet av att bygga system för informationshämtning med vektorsökning, inbäddningspipelines, kontextsammanställning och svar med källhänvisningar.
- Förmåga att instrumentera hallucinationer, fel i informationshämtning, avbrott hos leverantörer och kostnadsöverskridanden.
- Erfarenhet av att utvärdera kvaliteten på AI-svar med avseende på relevans, säkerhet, källornas kvalitet och reproducerbara resultat.
- Goda kunskaper i API-design.
- Förmåga att ansvara för en tjänst från utformning av scheman till driftsättning och jourstöd.
- Bosatt i USA och behörig att arbeta där.
- Go är starkt meriterande.
- Erfarenhet av Python.
- Erfarenhet av LLM-gateways eller serveringsverktyg som LiteLLM, vLLM eller TGI.
- Erfarenhet av vektordatabaser som Qdrant eller pgvector samt av inbäddningspipelines.
- Erfarenhet av att finjustera modeller med öppna vikter med LoRA eller fullständig finjustering.
- Erfarenhet av innehållsmoderering eller säkerhetsverktyg.
- Kännedom om Ruby on Rails eller React/TypeScript.