TMTG neboli Trump Media & Technology Group je mediální a technologická společnost, jejíž platformy se zaměřují na sociální sítě, streamovanou zábavu, zprávy a kulturu. Poskytuje uživatelům a tvůrcům prostor ke sdílení a zveřejňování obsahu a své služby představuje jako alternativu k převládajícím mediálním narativům.
Seniorní backendový inženýr platformy AI
Vytvářejte produkční funkce založené na velkých jazykových modelech a základní infrastrukturu AI pro sociální platformu s miliony uživatelů. Veďte vývoj systémů vyhledávání, obsluhy modelů, evaluace a bezpečnosti.
Popis
- Vyvíjejte funkce AI pro sociální platformu s miliony uživatelů.
- Úzce spolupracujte s architektem platformy a technickým týmem.
- Budujte základní infrastrukturu AI od základu.
- Pomáhejte určovat technické postupy s tím, jak se tým rozrůstá.
- Propojujte služby s aplikacemi Ruby on Rails a React/TypeScript.
- Přebírejte odpovědnost za backendové služby od návrhu datových schémat přes nasazení až po pohotovostní podporu.
- Vytvářejte a provozujte systémy pro obsluhu velkých jazykových modelů, vyhledávání, evaluaci, instrumentaci a bezpečnost.
Požadavky
- Alespoň pět let zkušeností s backendovým vývojem ve staticky typovaném jazyce, jako je Go, Java, Kotlin nebo C#.
- Produkční zkušenosti s dodáváním funkcí využívajících velké jazykové modely, včetně generování rozšířeného o vyhledávání (RAG), streamování odpovědí a používání nástrojů.
- Praktické zkušenosti s infrastrukturou pro obsluhu velkých jazykových modelů, včetně směrování mezi více poskytovateli, přepínání při výpadku, streamování tokenů a sledování nákladů a využití.
- Zkušenosti s budováním vyhledávacích systémů s vektorovým vyhledáváním, pipeline pro embeddingy, sestavováním kontextu a odpověďmi podloženými citovanými zdroji.
- Schopnost monitorovat halucinace, selhání vyhledávání, výpadky poskytovatelů a překročení nákladů.
- Zkušenosti s hodnocením kvality odpovědí AI z hlediska relevance, bezpečnosti, kvality zdrojů a opakovatelnosti výsledků.
- Výborné dovednosti v návrhu API.
- Schopnost převzít službu od návrhu schématu až po nasazení a pohotovostní podporu.
- Pobyt ve Spojených státech a oprávnění tam pracovat.
- Go je výraznou výhodou.
- Zkušenosti s Pythonem.
- Zkušenosti s branami pro velké jazykové modely nebo nástroji pro jejich obsluhu, jako jsou LiteLLM, vLLM nebo TGI.
- Zkušenosti s vektorovými databázemi, jako jsou Qdrant nebo pgvector, a s pipeline pro embeddingy.
- Zkušenosti s dolaďováním modelů s otevřenými vahami pomocí LoRA nebo úplným dolaďováním.
- Zkušenosti s moderováním obsahu nebo bezpečnostními nástroji.
- Znalost Ruby on Rails nebo React/TypeScript.