Tether.to je společnost působící v oblasti digitálních aktiv, která se zaměřuje na infrastrukturu stablecoinů a platby založené na blockchainu. Tokeny Tether jsou navrženy tak, aby udržovaly hodnotu v poměru 1:1 k odpovídajícím fiatovým měnám, a lze je převádět prostřednictvím více blockchainů, což podporuje digitální transakce a přeshraniční platby. Společnost také zveřejňuje informace o svých aktivech a rezervách a rozvíjí vzdělávací iniciativy zaměřené na lepší porozumění digitálním aktivům a jejich využívání, mimo jiné na Blízkém východě, v Turecku a na Filipínách. Díky působení v oblasti kryptoměn, fintechu a financí přispívá Tether.to k rozvoji alternativní finanční infrastruktury a využití digitálních měn se stabilní hodnotou.
Výzkumný inženýr AI — optimalizace jader a inference, práce na dálku v Evropě
Optimalizujte GPU jádra, obsluhu modelů a inferenční systémy pro blockchainovou platformu digitálních financí Tether. Zlepšujte latenci, propustnost a efektivitu využití paměti na mobilních a edge zařízeních.
Popis
- Navrhovat a nasazovat architektury obsluhy modelů, které maximalizují propustnost, minimalizují latenci a efektivně využívají paměť.
- Zlepšovat výkon inference na zařízeních s omezenými zdroji a edge platformách.
- Stanovovat výkonnostní cíle pro latenci, dobu odezvy tokenů a paměťovou náročnost.
- Vytvářet, provádět a monitorovat řízené testy inference v simulovaných a produkčních prostředích.
- Monitorovat ukazatele latence, propustnosti, využití paměti a chybovosti.
- Zaznamenávat průběžná zjištění a porovnávat výsledky se zavedenými benchmarky napříč platformami.
- Vyvíjet testovací datové sady a simulační scénáře pro podmínky nasazení s omezenými zdroji.
- Vyhodnocovat výpočetní efektivitu a identifikovat úzká místa v obslužných pipelinech.
- Optimalizovat dávkové zpracování, síťová zpoždění, využití paměti, škálovatelnost a spolehlivost.
- Spolupracovat s mezioborovými týmy na integraci optimalizovaných frameworků obsluhy a inference do produkčních edge pipelineů a pipelineů běžících přímo na zařízeních.
- Stanovovat metriky úspěchu, průběžně monitorovat výkon a iterativně zdokonalovat řešení.
Požadavky
- Vysokoškolské vzdělání v oboru informatiky nebo příbuzném oboru.
- Preferován je titul PhD v oblasti zpracování přirozeného jazyka, strojového učení nebo příbuzném oboru.
- Prokazatelné zkušenosti s výzkumem a vývojem v oblasti AI včetně významných publikací na konferencích úrovně A*.
- Pracovní znalost jazyka Metal Shading Language (MSL).
- Schopnost vytvářet vlastní výpočetní shadery od základů.
- Zkušenosti s optimalizací nízkoúrovňových jader a inference na mobilních zařízeních.
- Prokazatelné výsledky při zlepšování latence inference, propustnosti a paměťové náročnosti doménově specifických aplikací.
- Pokročilé porozumění moderním architekturám obsluhy modelů a metodám optimalizace inference.
- Rozsáhlé zkušenosti s psaním GPU jader pro chytré telefony a další mobilní zařízení.
- Pokročilá znalost frameworků obsluhy modelů a inferenčních enginů.
- Praktické zkušenosti s vývojem a nasazováním komplexních inferenčních pipelineů na zařízeních s omezenými zdroji.
- Schopnost aplikovat empirický výzkum na problémy obsluhy související s latencí, výpočetními úzkými místy a omezením paměti.
- Znalost navrhování evaluačních frameworků a iterativního zdokonalování optimalizačních přístupů.
- Zkušenosti s distribuovanými inferenčními systémy včetně tenzorového, pipeline a expertního paralelismu.
- Pokročilé porozumění matematice a architektuře difuzních modelů a Vision Transformers.
- Znalost prořezávání, kvantizace, Flash Attention, KV cache a spekulativního dekódování s Eagle.
Benefity
- Práce na dálku odkudkoli na světě.
- Spolupráce s mezinárodním týmem.
- Příležitost podílet se na produktech z oblasti fintechu, blockchainu, umělé inteligence a digitálních financí.