A TMTG, vagyis a Trump Media & Technology Group egy média- és technológiai vállalat, amelynek platformjai a közösségi médiára, a streaming szórakoztatásra, a hírekre és a kultúrára összpontosítanak. Teret biztosít a felhasználóknak és az alkotóknak tartalmak megosztására és közzétételére, szolgáltatásait pedig a fősodratú média narratíváinak alternatívájaként pozicionálja.
Vezető backend mérnök, MI-platform
Éles környezetben használt LLM-funkciókat és alapvető MI-infrastruktúrát fejleszthet egy több millió felhasználót kiszolgáló közösségi platformhoz. Irányíthatja a visszakeresési, modellkiszolgálási, kiértékelési és biztonsági rendszereket.
Leírás
- MI-funkciókat fejleszt egy több millió felhasználóval rendelkező közösségi platformhoz.
- Szorosan együttműködik a platformarchitektussal és a mérnöki csapattal.
- Alapvető MI-infrastruktúrát hoz létre egy zöldmezős környezetben.
- Közreműködik a mérnöki gyakorlatok kialakításában a csapat bővülése során.
- Összekapcsolja a szolgáltatásokat a Ruby on Rails- és React/TypeScript-alkalmazásokkal.
- Az adatsémák megtervezésétől az élesítésen át az ügyeleti működésig felel a backend szolgáltatásokért.
- LLM-kiszolgálási, visszakeresési, kiértékelési, műszerezési és biztonsági rendszereket épít és üzemeltet.
Követelmények
- Legalább öt év backend mérnöki tapasztalat egy statikusan típusos nyelvvel, például Go, Java, Kotlin vagy C# használatával.
- Éles környezetben bevezetett LLM-alapú funkciók fejlesztésében szerzett tapasztalat, beleértve a visszakereséssel kiegészített generálást, a streamelt válaszokat és az eszközhasználatot.
- Gyakorlati tapasztalat LLM-kiszolgálási infrastruktúrával, beleértve a több szolgáltató közötti útválasztást, az átállást tartalék szolgáltatóra, a tokenek streamelését, valamint a költségek és a használat követését.
- Visszakeresési rendszerek építésében szerzett tapasztalat vektorkereséssel, embedding-folyamatokkal, kontextus-összeállítással és forrásokkal alátámasztott válaszokkal.
- Képesség a hallucinációk, visszakeresési hibák, szolgáltatói leállások és költségtúllépések műszerezésére és nyomon követésére.
- MI-válaszok minőségének értékelésében szerzett tapasztalat a relevancia, a biztonság, a források minősége és a reprodukálható eredmények alapján.
- Erős API-tervezési készségek.
- Képesség egy szolgáltatás teljes életciklusának vállalására a sématervezéstől az élesítésen át az ügyeleti támogatásig.
- Az Egyesült Államokban él, és jogosult ott dolgozni.
- A Go ismerete kiemelt előny.
- Python-tapasztalat.
- Tapasztalat LLM-átjárókkal vagy kiszolgáló eszközökkel, például LiteLLM-mel, vLLM-mel vagy TGI-vel.
- Tapasztalat vektoradatbázisokkal, például Qdranttal vagy pgvectorral, valamint embedding-folyamatokkal.
- Tapasztalat nyílt súlyú modellek LoRA-val vagy teljes finomhangolással történő finomhangolásában.
- Tapasztalat tartalommoderációs vagy biztonsági eszközökkel.
- Ruby on Rails- vagy React/TypeScript-ismeret.