Tether.to er et selskap innen digitale aktiva med fokus på infrastruktur for stablecoins og blokkjedebaserte betalinger. Selskapets Tether-tokens er utformet for å opprettholde en verdi på 1:1 i forhold til de tilsvarende fiatvalutaene, og kan overføres på tvers av flere blokkjeder. Dette legger til rette for digitale transaksjoner og betalinger på tvers av landegrenser. Selskapet publiserer også informasjon om sine aktiva og reserver, og utvikler opplæringstiltak som skal øke forståelsen av og bruken av digitale aktiva, blant annet i Midtøsten, Tyrkia og Filippinene. Gjennom arbeidet sitt innen krypto, fintech og finans bidrar Tether.to til utviklingen av alternativ finansiell infrastruktur og bruksområder for stabile digitale valutaer.
AI-forskningsingeniør – optimalisering av kjerner og inferens, fjernarbeid i Europa
Optimaliser GPU-kjerner, modellservering og inferenssystemer for Tethers blokkjedebaserte plattform for digital finans. Forbedre responstid, gjennomstrømning og minneeffektivitet på mobile enheter og edge-enheter.
Beskrivelse
- Utform og distribuer arkitekturer for modellservering som maksimerer gjennomstrømningen, minimerer responstiden og bruker minnet effektivt.
- Forbedre inferensytelsen på ressursbegrensede enheter og edge-plattformer.
- Fastsett ytelsesmål for responstid, tokensvartider og minneforbruk.
- Bygg, gjennomfør og overvåk kontrollerte inferenstester i simulerte miljøer og produksjonsmiljøer.
- Overvåk ytelsesindikatorer for responstid, gjennomstrømning, minnebruk og feilrate.
- Dokumenter iterative funn og sammenlign resultatene med etablerte referanseverdier på tvers av plattformer.
- Utvikle testdatasett og simuleringsscenarier for distribusjon under ressursbegrensede forhold.
- Evaluer beregningseffektiviteten og identifiser flaskehalser i serveringspipelines.
- Optimaliser batching, nettverksforsinkelser, minnebruk, skalerbarhet og pålitelighet.
- Samarbeid med tverrfunksjonelle team for å integrere optimaliserte rammeverk for servering og inferens i produksjonspipelines for edge- og enhetsbasert kjøring.
- Etabler suksessmålinger, overvåk ytelsen kontinuerlig og videreutvikle løsningene iterativt.
Krav
- Grad i informatikk eller et relatert fagområde.
- Doktorgrad i NLP, maskinlæring eller et relatert fagområde er ønskelig.
- Dokumentert erfaring med AI-forskning og -utvikling, inkludert sterke publikasjoner på A*-konferanser.
- Arbeidskunnskap i Metal Shading Language (MSL).
- Evne til å lage egendefinerte compute shaders fra grunnen av.
- Erfaring med optimalisering av kjerner på lavt nivå og inferens på mobile enheter.
- Dokumenterte resultater med å forbedre inferensens responstid, gjennomstrømning og minneforbruk for domenespesifikke applikasjoner.
- Avansert forståelse av moderne arkitekturer for modellservering og metoder for inferensoptimalisering.
- Solid erfaring med å skrive GPU-kjerner for smarttelefoner og andre mobile enheter.
- Avansert kunnskap om rammeverk for modellservering og inferensmotorer.
- Praktisk erfaring med å utvikle og distribuere komplette inferenspipelines på ressursbegrensede enheter.
- Evne til å anvende empirisk forskning på serveringsutfordringer knyttet til responstid, beregningsmessige flaskehalser og minnebegrensninger.
- Gode ferdigheter i å utforme evalueringsrammeverk og iterere på optimaliseringsmetoder.
- Erfaring med distribuerte inferenssystemer, inkludert tensor-, pipeline- og ekspertparallellisme.
- Avansert forståelse av matematikken og arkitekturen bak diffusjonsmodeller og Vision Transformers.
- Kunnskap om pruning, kvantisering, Flash Attention, KV-cache og spekulativ dekoding med Eagle.
Fordeler
- Jobb eksternt fra hvor som helst i verden.
- Samarbeid med et internasjonalt team.
- Bidra til produkter innen fintech, blokkjedeteknologi, kunstig intelligens og digital finans.