
MWDN — компанія у сфері ІТ-послуг і розроблення програмного забезпечення, яка допомагає бізнесу створювати та розвивати цифрові продукти для веб-, мобільних і десктопних платформ. Власна інженерна команда підтримує реалізацію клієнтських проєктів завдяки посиленню команд, виділеним командам розроблення та міжнародному підбору ІТ-фахівців. Завдяки центрам розроблення в Центральній і Східній Європі MWDN поєднує організації зі США, Європи та Ізраїлю з талановитими розробниками для індивідуальних і економічно обґрунтованих технологічних проєктів.
Інженер CUDA, інференс LLM (віддалено, Узбекистан)
Оптимізуйте інференс LLM на сучасних GPU, працюючи з ядрами CUDA та фреймворками для обслуговування моделей. Приєднуйтеся до MWDN для роботи над проєктами у сфері ШІ-систем і високопродуктивних обчислень.
Опис
- Підвищуйте продуктивність інференсу LLM на сучасних GPU.
- Використовуйте фреймворки для інференсу й обслуговування моделей, як-от vLLM, SGLang і TensorRT-LLM.
- Аналізуйте виконання завдань на GPU, доступ до пам’яті, продуктивність ядер і вузькі місця інференсу.
- Створюйте, налаштовуйте, налагоджуйте або реконструюйте ядра CUDA та низькорівневі операції GPU.
- Досліджуйте методи оптимізації множення матриць, механізмів уваги та шарів нейронних мереж.
- Проводьте бенчмаркінг систем і шукайте способи покращити затримку, пропускну здатність і завантаження GPU.
- Розв’язуйте складні задачі на перетині ШІ-систем і високопродуктивних обчислень.
- Проводьте практичні експерименти й досліджуйте низькорівневу поведінку систем.
Вимоги
- Маєте значний практичний досвід роботи з CUDA та програмуванням GPU.
- Глибоко розумієте архітектуру GPU, ієрархії пам’яті, паралельне виконання та налаштування продуктивності.
- Маєте досвід роботи з інференсом LLM, ШІ-системами, ядрами GPU або високопродуктивними обчисленнями.
- Знаєте принаймні один з інструментів: vLLM, SGLang, TensorRT-LLM, Triton або FlashAttention.
- Умієте діагностувати складні проблеми продуктивності й досліджувати низькорівневу поведінку систем.
- Маєте сильні навички розв’язання проблем.
- Умієте ефективно доносити складні технічні ідеї англійською мовою.
- Ступінь PhD або дослідницький досвід у галузі інформатики, машинного навчання, комп’ютерної архітектури чи суміжній дисципліні буде перевагою.
- Наукові публікації, проєктна робота або значний внесок у відкриті проєкти з інфраструктури GPU чи LLM будуть перевагою.
- Досвід роботи з внутрішніми механізмами PyTorch, розподіленим інференсом, квантуванням, налаштуванням KV-кешу або власними ядрами GPU буде перевагою.
- Внесок у vLLM, SGLang, Triton, FlashAttention або пов’язані репозиторії буде перевагою.
Переваги
- Перевірка клієнтів, покликана знизити ризики й забезпечити надійні та своєчасні виплати.
- Кар’єрні консультації та допомога з пошуком майбутніх можливостей.
- Юридичні консультації щодо незалежної роботи або оформлення ФОП, податків і пов’язаних питань.
- Заняття англійською мовою та можливості для професійного розвитку.
- Командні заходи.
- Гнучкий графік роботи.
- 29 днів оплачуваної відпустки: 18 робочих днів на рік плюс державні свята.
- 10 оплачуваних днів для відновлення.
- Фінансова та юридична допомога незалежним підрядникам.
- Безкоштовні заняття англійською з носіями мови або викладачами з України.
- Персональна підтримка HR.
- Орієнтоване на людей керівництво та мінімум бюрократії.
- Привітна корпоративна культура.
Схожі вакансії
Вакансій не знайдено
Спробуйте змінити або очистити фільтри, щоб знайти більше можливостей.