Tether.to е компания за цифрови активи, насочена към инфраструктура за стейбълкойни и плащания, базирани на блокчейн. Нейните токени Tether са проектирани да поддържат стойност в съотношение 1 : 1 спрямо съответните фиатни валути и могат да се прехвърлят между множество блокчейни, като така подпомагат цифровите транзакции и трансграничните плащания. Компанията също така публикува информация за своите активи и резерви и разработва образователни инициативи, предназначени да разширят разбирането и употребата на цифровите активи, включително в Близкия изток, Турция и Филипините. Чрез дейността си в областта на криптовалутите, финтеха и финансите Tether.to допринася за развитието на алтернативна финансова инфраструктура и приложения на стабилни цифрови валути.
Изследователски инженер по изкуствен интелект – оптимизация на ядра и инференция, дистанционна работа в Европа
Оптимизирайте GPU ядра, обслужването на модели и системите за инференция за базираната на блокчейн платформа за цифрови финанси на Tether. Подобрявайте латентността, пропускателната способност и ефективността на паметта на мобилни и edge устройства.
Описание
- Проектиране и внедряване на архитектури за обслужване на модели, които максимизират пропускателната способност, минимизират латентността и използват паметта ефективно.
- Подобряване на производителността на инференцията на устройства с ограничени ресурси и edge платформи.
- Определяне на цели за производителност относно латентността, времето за отговор на токените и използваната памет.
- Изграждане, изпълнение и наблюдение на контролирани тестове за инференция в симулирани и продукционни среди.
- Наблюдение на показателите за латентност, пропускателна способност, използване на паметта и честота на грешките.
- Документиране на итеративните резултати и сравняване на резултатите с утвърдени кросплатформени бенчмаркове.
- Разработване на тестови набори от данни и симулационни сценарии за условия на внедряване с ограничени ресурси.
- Оценяване на изчислителната ефективност и идентифициране на тесни места в конвейерите за обслужване.
- Оптимизиране на пакетната обработка, мрежовите забавяния, използването на паметта, мащабируемостта и надеждността.
- Работа с междуфункционални екипи за интегриране на оптимизирани рамки за обслужване и инференция в продукционни edge конвейери и конвейери на устройства.
- Установяване на метрики за успех, непрекъснато наблюдение на производителността и итеративно усъвършенстване на решенията.
Изисквания
- Висше образование по компютърни науки или сродна дисциплина.
- Предпочита се докторска степен по обработка на естествен език, машинно обучение или сродна област.
- Доказан опит в изследванията и разработката на AI, включително силни публикации на конференции от категория A*.
- Работни познания по Metal Shading Language (MSL).
- Способност за създаване на персонализирани изчислителни шейдъри от нулата.
- Опит в оптимизирането на нискоуровневи ядра и инференция на мобилни устройства.
- Доказателства за подобряване на латентността на инференцията, пропускателната способност и използваната памет за специфични за дадена област приложения.
- Задълбочено разбиране на съвременните архитектури за обслужване на модели и методите за оптимизация на инференцията.
- Значителен опит в писането на GPU ядра за смартфони и други мобилни устройства.
- Задълбочени познания по рамки за обслужване на модели и инференционни енджини.
- Практически опит в разработването и внедряването на цялостни конвейери за инференция на устройства с ограничени ресурси.
- Способност за прилагане на емпирични изследвания към предизвикателства при обслужването, свързани с латентност, изчислителни тесни места и ограничения на паметта.
- Умения за проектиране на рамки за оценяване и итеративно усъвършенстване на подходи за оптимизация.
- Опит с разпределени системи за инференция, включително тензорен, конвейерен и експертен паралелизъм.
- Задълбочено разбиране на математиката и архитектурата на дифузионните модели и Vision Transformer моделите.
- Познания по pruning, квантизация, Flash Attention, KV cache и спекулативно декодиране с Eagle.
Придобивки
- Дистанционна работа от всяка точка на света.
- Сътрудничество с международен екип.
- Принос към продукти във финтех, блокчейн, изкуствен интелект и цифрови финанси.