Tether.to är ett företag inom digitala tillgångar med fokus på infrastruktur för stablecoins och blockkedjebaserade betalningar. Företagets Tether-tokens är utformade för att behålla ett värde på 1:1 i förhållande till motsvarande fiatvalutor och kan överföras över flera blockkedjor, vilket möjliggör digitala transaktioner och gränsöverskridande betalningar. Företaget publicerar också information om sina tillgångar och reserver samt utvecklar utbildningsinitiativ som syftar till att öka förståelsen för och användningen av digitala tillgångar, bland annat i Mellanöstern, Turkiet och Filippinerna. Genom sitt arbete inom krypto, fintech och finans bidrar Tether.to till utvecklingen av alternativ finansiell infrastruktur och tillämpningar för digitala valutor med stabilt värde.
AI-forskningsingenjör – optimering av kärnor och inferens, distansarbete i Europa
Optimera GPU-kärnor, modellserving och inferenssystem för Tethers blockkedjebaserade plattform för digital finans. Förbättra svarstid, genomströmning och minneseffektivitet på mobila enheter och edge-enheter.
Beskrivning
- Utforma och driftsätt arkitekturer för modellserving som maximerar genomströmningen, minimerar svarstiden och använder minnet effektivt.
- Förbättra inferensprestandan på resursbegränsade enheter och edge-plattformar.
- Fastställ prestandamål för svarstid, tokensvarstider och minnesanvändning.
- Bygg, genomför och övervaka kontrollerade inferenstester i simulerade miljöer och produktionsmiljöer.
- Övervaka prestandaindikatorer för svarstid, genomströmning, minnesanvändning och felfrekvens.
- Dokumentera iterativa resultat och jämför dem med etablerade plattformsöverskridande riktmärken.
- Utveckla testdatauppsättningar och simuleringsscenarier för driftsättning under resursbegränsade förhållanden.
- Utvärdera beräkningseffektiviteten och identifiera flaskhalsar i serving-pipelines.
- Optimera batchhantering, nätverksfördröjningar, minnesanvändning, skalbarhet och tillförlitlighet.
- Samarbeta med tvärfunktionella team för att integrera optimerade serving- och inferensramverk i produktionspipelines för edge- och enhetsbaserad körning.
- Fastställ framgångsmått, övervaka prestandan kontinuerligt och förfina lösningarna iterativt.
Krav
- Examen i datavetenskap eller ett närliggande ämne.
- Doktorsexamen i NLP, maskininlärning eller ett närliggande område är meriterande.
- Dokumenterad erfarenhet av AI-forskning och utveckling, inklusive starka publikationer vid A*-konferenser.
- Praktisk kunskap i Metal Shading Language (MSL).
- Förmåga att skapa anpassade beräkningsshaders från grunden.
- Erfarenhet av optimering av lågnivåkärnor och inferens på mobila enheter.
- Dokumenterad erfarenhet av att förbättra inferensens svarstid, genomströmning och minnesanvändning för domänspecifika tillämpningar.
- Avancerad förståelse för moderna arkitekturer för modellserving och metoder för inferensoptimering.
- Omfattande erfarenhet av att skriva GPU-kärnor för smartphones och andra mobila enheter.
- Avancerade kunskaper i ramverk för modellserving och inferensmotorer.
- Praktisk erfarenhet av att utveckla och driftsätta kompletta inferenspipelines på resursbegränsade enheter.
- Förmåga att tillämpa empirisk forskning på servingutmaningar som rör svarstid, beräkningsflaskhalsar och minnesbegränsningar.
- God förmåga att utforma utvärderingsramverk och iterera kring optimeringsmetoder.
- Erfarenhet av distribuerade inferenssystem, inklusive tensor-, pipeline- och expertparallellism.
- Avancerad förståelse för matematiken och arkitekturen bakom diffusionsmodeller och Vision Transformers.
- Kunskap om pruning, kvantisering, Flash Attention, KV-cache och spekulativ avkodning med Eagle.
Förmåner
- Arbeta på distans från valfri plats i världen.
- Samarbeta med ett internationellt team.
- Bidra till produkter inom fintech, blockkedjor, artificiell intelligens och digital finans.