MWDN
MWDN
MWDN — компания в сфере ИТ-услуг и разработки программного обеспечения, которая помогает бизнесу создавать и развивать цифровые продукты для веб-, мобильных и настольных платформ. Собственная инженерная команда поддерживает реализацию клиентских проектов за счёт усиления команд, выделенных команд разработки и международного подбора ИТ-специалистов. Благодаря центрам разработки в Центральной и Восточной Европе MWDN связывает организации из США, Европы и Израиля с талантливыми разработчиками для индивидуальных и экономически обоснованных технологических проектов.

Инженер CUDA, инференс LLM (удалённо, Узбекистан)

Оптимизируйте инференс LLM на современных GPU, работая с ядрами CUDA и фреймворками для обслуживания моделей. Присоединяйтесь к MWDN для работы над проектами в области ИИ-систем и высокопроизводительных вычислений.

Описание

  • Повышайте производительность инференса LLM на современных GPU.
  • Используйте фреймворки для инференса и обслуживания моделей, такие как vLLM, SGLang и TensorRT-LLM.
  • Анализируйте выполнение задач на GPU, доступ к памяти, производительность ядер и узкие места инференса.
  • Создавайте, настраивайте, отлаживайте или реконструируйте ядра CUDA и низкоуровневые операции GPU.
  • Изучайте методы оптимизации умножения матриц, механизмов внимания и слоёв нейронных сетей.
  • Проводите бенчмаркинг систем и ищите способы улучшить задержку, пропускную способность и загрузку GPU.
  • Решайте сложные задачи на стыке ИИ-систем и высокопроизводительных вычислений.
  • Проводите практические эксперименты и изучайте низкоуровневое поведение систем.

Требования

  • Имеете значительный практический опыт работы с CUDA и программированием GPU.
  • Глубоко понимаете архитектуру GPU, иерархии памяти, параллельное выполнение и настройку производительности.
  • Имеете опыт работы с инференсом LLM, ИИ-системами, ядрами GPU или высокопроизводительными вычислениями.
  • Знаете хотя бы один из инструментов: vLLM, SGLang, TensorRT-LLM, Triton или FlashAttention.
  • Умеете диагностировать сложные проблемы производительности и исследовать низкоуровневое поведение систем.
  • Обладаете сильными навыками решения задач.
  • Умеете эффективно излагать сложные технические идеи на английском языке.
  • Степень PhD или исследовательский опыт в области информатики, машинного обучения, компьютерной архитектуры или смежной дисциплины будут преимуществом.
  • Научные публикации, проектная работа или значительный вклад в открытые проекты по инфраструктуре GPU или LLM будут преимуществом.
  • Опыт работы с внутренними механизмами PyTorch, распределённым инференсом, квантованием, настройкой KV-кэша или пользовательскими ядрами GPU будет преимуществом.
  • Вклад в vLLM, SGLang, Triton, FlashAttention или связанные репозитории будет преимуществом.

Преимущества

  • Проверка клиентов, призванная снизить риски и обеспечить надёжные и своевременные выплаты.
  • Карьерные консультации и помощь в поиске будущих возможностей.
  • Юридические консультации по независимой работе или оформлению индивидуального предпринимательства, налогам и связанным вопросам.
  • Занятия английским языком и возможности для профессионального развития.
  • Командные мероприятия.
  • Гибкий график работы.
  • 29 дней оплачиваемого отпуска: 18 рабочих дней в год плюс государственные праздники.
  • 10 оплачиваемых дней на восстановление.
  • Финансовая и юридическая помощь независимым подрядчикам.
  • Бесплатные занятия английским с носителями языка или преподавателями из Украины.
  • Персональная поддержка HR.
  • Ориентированное на людей руководство и минимум бюрократии.
  • Доброжелательная корпоративная культура.

Похожие вакансии

Вакансии не найдены

Попробуйте изменить или сбросить фильтры, чтобы найти больше вакансий.