Tether.to — компанія, що працює з цифровими активами та спеціалізується на інфраструктурі стейблкоїнів і платежах на основі блокчейну. Токени Tether розроблено для підтримання співвідношення 1:1 із відповідними фіатними валютами; їх можна переказувати через кілька блокчейнів, забезпечуючи цифрові транзакції та транскордонні платежі. Компанія також публікує інформацію про свої активи й резерви та розвиває освітні ініціативи, покликані поглибити розуміння й використання цифрових активів, зокрема на Близькому Сході, у Туреччині та на Філіппінах. Працюючи на перетині криптовалют, фінтеху та фінансів, Tether.to сприяє розвитку альтернативної фінансової інфраструктури й застосуванню цифрових валют зі стабільною вартістю.
Інженер із досліджень ШІ — оптимізація ядер та інференсу, віддалена робота в Європі
Оптимізуйте GPU-ядра, обслуговування моделей і системи інференсу для блокчейн-платформи цифрових фінансів Tether. Покращуйте затримку, пропускну здатність та ефективність використання пам’яті на мобільних і периферійних пристроях.
Опис
- Проєктувати й розгортати архітектури обслуговування моделей, які максимізують пропускну здатність, мінімізують затримку та ефективно використовують пам’ять.
- Підвищувати продуктивність інференсу на пристроях з обмеженими ресурсами та периферійних платформах.
- Визначати цільові показники затримки, часу відповіді токенів і обсягу пам’яті.
- Створювати, виконувати й контролювати контрольовані тести інференсу в модельованих і виробничих середовищах.
- Відстежувати показники затримки, пропускної здатності, використання пам’яті та частоти помилок.
- Фіксувати результати ітерацій і порівнювати їх із визначеними кросплатформними бенчмарками.
- Розробляти тестові набори даних і сценарії моделювання для умов розгортання з обмеженими ресурсами.
- Оцінювати обчислювальну ефективність і виявляти вузькі місця в конвеєрах обслуговування.
- Оптимізувати пакетну обробку, мережеві затримки, використання пам’яті, масштабованість і надійність.
- Працювати з міжфункціональними командами над інтеграцією оптимізованих фреймворків обслуговування та інференсу у виробничі периферійні конвеєри й конвеєри на пристроях.
- Визначати метрики успіху, безперервно відстежувати продуктивність та ітеративно вдосконалювати рішення.
Вимоги
- Ступінь у галузі комп’ютерних наук або суміжній дисципліні.
- Бажаний ступінь PhD у галузі обробки природної мови, машинного навчання або суміжній сфері.
- Підтверджений досвід досліджень і розробки у сфері ШІ, зокрема вагомі публікації на конференціях рівня A*.
- Робоче знання Metal Shading Language (MSL).
- Здатність створювати власні обчислювальні шейдери з нуля.
- Досвід оптимізації низькорівневих ядер та інференсу на мобільних пристроях.
- Підтверджений досвід покращення затримки інференсу, пропускної здатності та обсягу пам’яті для предметно-орієнтованих застосунків.
- Глибоке розуміння сучасних архітектур обслуговування моделей і методів оптимізації інференсу.
- Значний досвід написання GPU-ядер для смартфонів та інших мобільних пристроїв.
- Глибокі знання фреймворків обслуговування моделей і рушіїв інференсу.
- Практичний досвід розробки та розгортання наскрізних конвеєрів інференсу на пристроях з обмеженими ресурсами.
- Здатність застосовувати емпіричні дослідження до завдань обслуговування, пов’язаних із затримкою, обчислювальними вузькими місцями та обмеженнями пам’яті.
- Навички проєктування фреймворків оцінювання та ітеративного вдосконалення підходів до оптимізації.
- Досвід роботи з розподіленими системами інференсу, зокрема з тензорним, конвеєрним і експертним паралелізмом.
- Глибоке розуміння математики й архітектури дифузійних моделей і Vision Transformers.
- Знання проріджування, квантування, Flash Attention, KV-кешу та спекулятивного декодування з Eagle.
Переваги
- Віддалена робота з будь-якої точки світу.
- Співпраця з міжнародною командою.
- Участь у створенні продуктів у сферах фінтеху, блокчейну, штучного інтелекту та цифрових фінансів.