Tether.to — компания, занимающаяся цифровыми активами и специализирующаяся на инфраструктуре стейблкоинов и платежах на основе блокчейна. Токены Tether разработаны для поддержания соотношения 1:1 с соответствующими фиатными валютами и могут переводиться через несколько блокчейнов, обеспечивая цифровые транзакции и трансграничные платежи. Компания также публикует информацию о своих активах и резервах и развивает образовательные инициативы, направленные на расширение понимания и использования цифровых активов, в том числе на Ближнем Востоке, в Турции и на Филиппинах. Работая на стыке криптовалют, финтеха и финансов, Tether.to способствует развитию альтернативной финансовой инфраструктуры и применению цифровых валют со стабильной стоимостью.
Инженер по исследованиям ИИ — оптимизация ядер и инференса, удалённая работа в Европе
Оптимизируйте GPU-ядра, обслуживание моделей и системы инференса для блокчейн-платформы цифровых финансов Tether. Повышайте задержку, пропускную способность и эффективность использования памяти на мобильных и периферийных устройствах.
Описание
- Проектировать и развёртывать архитектуры обслуживания моделей, которые максимизируют пропускную способность, минимизируют задержку и эффективно используют память.
- Повышать производительность инференса на устройствах с ограниченными ресурсами и периферийных платформах.
- Устанавливать целевые показатели задержки, времени отклика токенов и объёма используемой памяти.
- Создавать, выполнять и контролировать контролируемые тесты инференса в моделируемых и производственных средах.
- Отслеживать показатели задержки, пропускной способности, использования памяти и частоты ошибок.
- Документировать результаты итераций и сравнивать их с установленными кроссплатформенными бенчмарками.
- Разрабатывать тестовые наборы данных и сценарии моделирования для условий развёртывания с ограниченными ресурсами.
- Оценивать вычислительную эффективность и выявлять узкие места в конвейерах обслуживания.
- Оптимизировать пакетную обработку, сетевые задержки, использование памяти, масштабируемость и надёжность.
- Работать с межфункциональными командами над интеграцией оптимизированных фреймворков обслуживания и инференса в производственные периферийные конвейеры и конвейеры на устройствах.
- Определять метрики успеха, непрерывно отслеживать производительность и итеративно совершенствовать решения.
Требования
- Высшее образование в области компьютерных наук или смежной дисциплины.
- Предпочтительна степень PhD в области обработки естественного языка, машинного обучения или смежной области.
- Подтверждённый опыт исследований и разработки в области ИИ, включая сильные публикации на конференциях уровня A*.
- Рабочее знание языка Metal Shading Language (MSL).
- Умение создавать пользовательские вычислительные шейдеры с нуля.
- Опыт оптимизации низкоуровневых ядер и инференса на мобильных устройствах.
- Подтверждённый опыт улучшения задержки инференса, пропускной способности и объёма памяти для предметно-ориентированных приложений.
- Продвинутое понимание современных архитектур обслуживания моделей и методов оптимизации инференса.
- Обширный опыт написания GPU-ядер для смартфонов и других мобильных устройств.
- Продвинутые знания фреймворков обслуживания моделей и движков инференса.
- Практический опыт разработки и развёртывания сквозных конвейеров инференса на устройствах с ограниченными ресурсами.
- Умение применять эмпирические исследования к задачам обслуживания, связанным с задержкой, вычислительными узкими местами и ограничениями памяти.
- Навыки проектирования фреймворков оценки и итеративной доработки подходов к оптимизации.
- Опыт работы с распределёнными системами инференса, включая тензорный, конвейерный и экспертный параллелизм.
- Продвинутое понимание математики и архитектуры диффузионных моделей и Vision Transformers.
- Знание прореживания, квантования, Flash Attention, KV-кэша и спекулятивного декодирования с Eagle.
Преимущества
- Работа в удалённом формате из любой точки мира.
- Сотрудничество с международной командой.
- Участие в создании продуктов в сферах финтеха, блокчейна, искусственного интеллекта и цифровых финансов.