MWDN
MWDN
MWDN — компанія у сфері ІТ-послуг і розроблення програмного забезпечення, яка допомагає бізнесу створювати та розвивати цифрові продукти для веб-, мобільних і десктопних платформ. Власна інженерна команда підтримує реалізацію клієнтських проєктів завдяки посиленню команд, виділеним командам розроблення та міжнародному підбору ІТ-фахівців. Завдяки центрам розроблення в Центральній і Східній Європі MWDN поєднує організації зі США, Європи та Ізраїлю з талановитими розробниками для індивідуальних і економічно обґрунтованих технологічних проєктів.

Інженер CUDA, інференс LLM (віддалено, Узбекистан)

Оптимізуйте інференс LLM на сучасних GPU, працюючи з ядрами CUDA та фреймворками для обслуговування моделей. Приєднуйтеся до MWDN для роботи над проєктами у сфері ШІ-систем і високопродуктивних обчислень.

Опис

  • Підвищуйте продуктивність інференсу LLM на сучасних GPU.
  • Використовуйте фреймворки для інференсу й обслуговування моделей, як-от vLLM, SGLang і TensorRT-LLM.
  • Аналізуйте виконання завдань на GPU, доступ до пам’яті, продуктивність ядер і вузькі місця інференсу.
  • Створюйте, налаштовуйте, налагоджуйте або реконструюйте ядра CUDA та низькорівневі операції GPU.
  • Досліджуйте методи оптимізації множення матриць, механізмів уваги та шарів нейронних мереж.
  • Проводьте бенчмаркінг систем і шукайте способи покращити затримку, пропускну здатність і завантаження GPU.
  • Розв’язуйте складні задачі на перетині ШІ-систем і високопродуктивних обчислень.
  • Проводьте практичні експерименти й досліджуйте низькорівневу поведінку систем.

Вимоги

  • Маєте значний практичний досвід роботи з CUDA та програмуванням GPU.
  • Глибоко розумієте архітектуру GPU, ієрархії пам’яті, паралельне виконання та налаштування продуктивності.
  • Маєте досвід роботи з інференсом LLM, ШІ-системами, ядрами GPU або високопродуктивними обчисленнями.
  • Знаєте принаймні один з інструментів: vLLM, SGLang, TensorRT-LLM, Triton або FlashAttention.
  • Умієте діагностувати складні проблеми продуктивності й досліджувати низькорівневу поведінку систем.
  • Маєте сильні навички розв’язання проблем.
  • Умієте ефективно доносити складні технічні ідеї англійською мовою.
  • Ступінь PhD або дослідницький досвід у галузі інформатики, машинного навчання, комп’ютерної архітектури чи суміжній дисципліні буде перевагою.
  • Наукові публікації, проєктна робота або значний внесок у відкриті проєкти з інфраструктури GPU чи LLM будуть перевагою.
  • Досвід роботи з внутрішніми механізмами PyTorch, розподіленим інференсом, квантуванням, налаштуванням KV-кешу або власними ядрами GPU буде перевагою.
  • Внесок у vLLM, SGLang, Triton, FlashAttention або пов’язані репозиторії буде перевагою.

Переваги

  • Перевірка клієнтів, покликана знизити ризики й забезпечити надійні та своєчасні виплати.
  • Кар’єрні консультації та допомога з пошуком майбутніх можливостей.
  • Юридичні консультації щодо незалежної роботи або оформлення ФОП, податків і пов’язаних питань.
  • Заняття англійською мовою та можливості для професійного розвитку.
  • Командні заходи.
  • Гнучкий графік роботи.
  • 29 днів оплачуваної відпустки: 18 робочих днів на рік плюс державні свята.
  • 10 оплачуваних днів для відновлення.
  • Фінансова та юридична допомога незалежним підрядникам.
  • Безкоштовні заняття англійською з носіями мови або викладачами з України.
  • Персональна підтримка HR.
  • Орієнтоване на людей керівництво та мінімум бюрократії.
  • Привітна корпоративна культура.

Схожі вакансії

Вакансій не знайдено

Спробуйте змінити або очистити фільтри, щоб знайти більше можливостей.