Tether.to to firma zajmująca się aktywami cyfrowymi, koncentrująca się na infrastrukturze stablecoinów i płatnościach opartych na technologii blockchain. Tokeny Tether zostały zaprojektowane tak, aby utrzymywać wartość w stosunku 1:1 do odpowiadających im walut fiducjarnych, i mogą być przesyłane za pośrednictwem wielu łańcuchów bloków, wspierając transakcje cyfrowe oraz płatności transgraniczne. Firma publikuje również informacje o swoich aktywach i rezerwach oraz rozwija inicjatywy edukacyjne mające na celu poszerzanie wiedzy o aktywach cyfrowych i ich wykorzystaniu, między innymi na Bliskim Wschodzie, w Turcji i na Filipinach. Dzięki działalności na styku kryptowalut, fintechu i finansów Tether.to przyczynia się do rozwoju alternatywnej infrastruktury finansowej oraz zastosowań stabilnych walut cyfrowych.
Inżynier badań nad AI — optymalizacja jąder i inferencji, praca zdalna w Europie
Optymalizuj jądra GPU, obsługę modeli i systemy inferencji dla platformy cyfrowych finansów Tether opartej na blockchainie. Poprawiaj opóźnienia, przepustowość i efektywność pamięci na urządzeniach mobilnych i brzegowych.
Opis
- Projektowanie i wdrażanie architektur obsługi modeli, które maksymalizują przepustowość, minimalizują opóźnienia i efektywnie wykorzystują pamięć.
- Poprawianie wydajności inferencji na urządzeniach o ograniczonych zasobach i platformach brzegowych.
- Ustalanie celów wydajnościowych dotyczących opóźnień, czasu odpowiedzi tokenów i zajętości pamięci.
- Tworzenie, wykonywanie i monitorowanie kontrolowanych testów inferencji w środowiskach symulowanych i produkcyjnych.
- Monitorowanie wskaźników opóźnień, przepustowości, wykorzystania pamięci i odsetka błędów.
- Dokumentowanie wyników kolejnych iteracji i porównywanie ich z ustalonymi benchmarkami międzyplatformowymi.
- Opracowywanie zbiorów danych testowych i scenariuszy symulacyjnych dla warunków wdrożenia o ograniczonych zasobach.
- Ocena efektywności obliczeniowej i identyfikowanie wąskich gardeł w potokach obsługi.
- Optymalizacja przetwarzania wsadowego, opóźnień sieciowych, wykorzystania pamięci, skalowalności i niezawodności.
- Współpraca z zespołami interdyscyplinarnymi przy integracji zoptymalizowanych frameworków obsługi i inferencji z produkcyjnymi potokami brzegowymi oraz potokami działającymi na urządzeniach.
- Ustalanie wskaźników sukcesu, ciągłe monitorowanie wydajności i iteracyjne udoskonalanie rozwiązań.
Wymagania
- Wykształcenie wyższe informatyczne lub w pokrewnej dziedzinie.
- Preferowany stopień doktora w dziedzinie przetwarzania języka naturalnego, uczenia maszynowego lub pokrewnej.
- Udokumentowane doświadczenie badawczo-rozwojowe w dziedzinie AI, w tym znaczące publikacje na konferencjach kategorii A*.
- Praktyczna znajomość języka Metal Shading Language (MSL).
- Umiejętność tworzenia niestandardowych shaderów obliczeniowych od podstaw.
- Doświadczenie w optymalizacji niskopoziomowych jąder i inferencji na urządzeniach mobilnych.
- Udokumentowane doświadczenie w poprawianiu opóźnień inferencji, przepustowości i zajętości pamięci dla aplikacji dziedzinowych.
- Zaawansowane rozumienie nowoczesnych architektur obsługi modeli i metod optymalizacji inferencji.
- Duże doświadczenie w pisaniu jąder GPU dla smartfonów i innych urządzeń mobilnych.
- Zaawansowana znajomość frameworków obsługi modeli i silników inferencji.
- Praktyczne doświadczenie w tworzeniu i wdrażaniu kompleksowych potoków inferencji na urządzeniach o ograniczonych zasobach.
- Umiejętność stosowania badań empirycznych do wyzwań związanych z obsługą, obejmujących opóźnienia, wąskie gardła obliczeniowe i ograniczenia pamięci.
- Biegłość w projektowaniu frameworków ewaluacyjnych i iteracyjnym doskonaleniu podejść optymalizacyjnych.
- Doświadczenie z rozproszonymi systemami inferencji, w tym z równoległością tensorową, potokową i ekspercką.
- Zaawansowane rozumienie matematyki i architektury modeli dyfuzyjnych oraz Vision Transformers.
- Znajomość przycinania, kwantyzacji, Flash Attention, pamięci podręcznej KV i dekodowania spekulatywnego z Eagle.
Benefity
- Praca zdalna z dowolnego miejsca na świecie.
- Współpraca z międzynarodowym zespołem.
- Udział w tworzeniu produktów z obszarów fintech, blockchain, sztucznej inteligencji i finansów cyfrowych.