
MWDN — компания в сфере ИТ-услуг и разработки программного обеспечения, которая помогает бизнесу создавать и развивать цифровые продукты для веб-, мобильных и настольных платформ. Собственная инженерная команда поддерживает реализацию клиентских проектов за счёт усиления команд, выделенных команд разработки и международного подбора ИТ-специалистов. Благодаря центрам разработки в Центральной и Восточной Европе MWDN связывает организации из США, Европы и Израиля с талантливыми разработчиками для индивидуальных и экономически обоснованных технологических проектов.
Инженер CUDA, инференс LLM (удалённо, Узбекистан)
Оптимизируйте инференс LLM на современных GPU, работая с ядрами CUDA и фреймворками для обслуживания моделей. Присоединяйтесь к MWDN для работы над проектами в области ИИ-систем и высокопроизводительных вычислений.
Описание
- Повышайте производительность инференса LLM на современных GPU.
- Используйте фреймворки для инференса и обслуживания моделей, такие как vLLM, SGLang и TensorRT-LLM.
- Анализируйте выполнение задач на GPU, доступ к памяти, производительность ядер и узкие места инференса.
- Создавайте, настраивайте, отлаживайте или реконструируйте ядра CUDA и низкоуровневые операции GPU.
- Изучайте методы оптимизации умножения матриц, механизмов внимания и слоёв нейронных сетей.
- Проводите бенчмаркинг систем и ищите способы улучшить задержку, пропускную способность и загрузку GPU.
- Решайте сложные задачи на стыке ИИ-систем и высокопроизводительных вычислений.
- Проводите практические эксперименты и изучайте низкоуровневое поведение систем.
Требования
- Имеете значительный практический опыт работы с CUDA и программированием GPU.
- Глубоко понимаете архитектуру GPU, иерархии памяти, параллельное выполнение и настройку производительности.
- Имеете опыт работы с инференсом LLM, ИИ-системами, ядрами GPU или высокопроизводительными вычислениями.
- Знаете хотя бы один из инструментов: vLLM, SGLang, TensorRT-LLM, Triton или FlashAttention.
- Умеете диагностировать сложные проблемы производительности и исследовать низкоуровневое поведение систем.
- Обладаете сильными навыками решения задач.
- Умеете эффективно излагать сложные технические идеи на английском языке.
- Степень PhD или исследовательский опыт в области информатики, машинного обучения, компьютерной архитектуры или смежной дисциплины будут преимуществом.
- Научные публикации, проектная работа или значительный вклад в открытые проекты по инфраструктуре GPU или LLM будут преимуществом.
- Опыт работы с внутренними механизмами PyTorch, распределённым инференсом, квантованием, настройкой KV-кэша или пользовательскими ядрами GPU будет преимуществом.
- Вклад в vLLM, SGLang, Triton, FlashAttention или связанные репозитории будет преимуществом.
Преимущества
- Проверка клиентов, призванная снизить риски и обеспечить надёжные и своевременные выплаты.
- Карьерные консультации и помощь в поиске будущих возможностей.
- Юридические консультации по независимой работе или оформлению индивидуального предпринимательства, налогам и связанным вопросам.
- Занятия английским языком и возможности для профессионального развития.
- Командные мероприятия.
- Гибкий график работы.
- 29 дней оплачиваемого отпуска: 18 рабочих дней в год плюс государственные праздники.
- 10 оплачиваемых дней на восстановление.
- Финансовая и юридическая помощь независимым подрядчикам.
- Бесплатные занятия английским с носителями языка или преподавателями из Украины.
- Персональная поддержка HR.
- Ориентированное на людей руководство и минимум бюрократии.
- Доброжелательная корпоративная культура.
Похожие вакансии
Вакансии не найдены
Попробуйте изменить или сбросить фильтры, чтобы найти больше вакансий.