TMTG eli Trump Media & Technology Group on media- ja teknologiayhtiö, jonka alustat keskittyvät sosiaaliseen mediaan, suoratoistoviihteeseen, uutisiin ja kulttuuriin. Se tarjoaa käyttäjille ja sisällöntuottajille tiloja sisällön jakamiseen ja julkaisemiseen sekä esittää palvelunsa vaihtoehtoina valtavirran mediatulkinnoille.
Vanhempi backend-insinööri, tekoälyalusta
Rakenna tuotantokäyttöön LLM-ominaisuuksia ja tekoälyn perusinfrastruktuuria miljoonia käyttäjiä palvelevalle sosiaalisen median alustalle. Johda tiedonhakua, mallien tarjoilua, arviointia ja turvallisuusjärjestelmiä.
Kuvaus
- Kehitä tekoälyominaisuuksia sosiaalisen median alustalle, jolla on miljoonia käyttäjiä.
- Tee tiivistä yhteistyötä alusta-arkkitehdin ja suunnittelutiimin kanssa.
- Luo tekoälyn perusinfrastruktuuria alusta alkaen.
- Auta määrittelemään teknisiä käytäntöjä tiimin kasvaessa.
- Yhdistä palvelut Ruby on Rails- ja React/TypeScript-sovelluksiin.
- Vastaa backend-palveluista tietomallien suunnittelusta käyttöönottoon ja päivystystoimintaan.
- Rakenna ja ylläpidä LLM-mallien tarjoilu-, tiedonhaku-, arviointi-, instrumentointi- ja turvallisuusjärjestelmiä.
Vaatimukset
- Vähintään viiden vuoden kokemus backend-kehityksestä staattisesti tyypitetyllä kielellä, kuten Go, Java, Kotlin tai C#.
- Tuotantokokemusta LLM-pohjaisten ominaisuuksien toteuttamisesta, mukaan lukien hakuun perustuva generointi, suoratoistovastaukset ja työkalujen käyttö.
- Käytännön kokemusta LLM-mallien tarjoiluinfrastruktuurista, mukaan lukien reititys useiden tarjoajien välillä, vikasietoisuus, tokenien suoratoisto sekä kustannusten ja käytön seuranta.
- Kokemusta tiedonhakujärjestelmien rakentamisesta: vektorihaku, upotusputket, kontekstin kokoaminen ja lähteillä tuetut vastaukset.
- Kyky seurata hallusinaatioita, tiedonhaun epäonnistumisia, tarjoajien katkoksia ja kustannusten ylityksiä instrumentoinnin avulla.
- Kokemusta tekoälyn vastausten laadun arvioinnista relevanssin, turvallisuuden, lähteiden laadun ja tulosten toistettavuuden kannalta.
- Vahvat API-suunnittelutaidot.
- Kyky vastata palvelusta tietomallien suunnittelusta käyttöönottoon ja päivystystukeen.
- Sijainti Yhdysvalloissa ja voimassa oleva työlupa siellä.
- Go on vahvasti suositeltu.
- Python-kokemusta.
- Kokemusta LLM-yhdyskäytävistä tai tarjoilutyökaluista, kuten LiteLLM, vLLM tai TGI.
- Kokemusta vektoritietokannoista, kuten Qdrant tai pgvector, sekä upotusputkista.
- Kokemusta avoimilla painoilla julkaistujen mallien hienosäädöstä LoRA-menetelmällä tai täydellä hienosäädöllä.
- Kokemusta sisällön moderointi- tai turvallisuustyökaluista.
- Ruby on Railsin tai React/TypeScriptin tuntemus.