Designworks Talent LLC — рекрутинговая и консультационная компания в сфере управления талантами, работающая с быстрорастущими стартапами и международными корпорациями. Основанная в 2009 году, компания сочетает опыт рекрутеров с инструментами на базе искусственного интеллекта, помогая быстрее и точнее находить сотрудников. Компания выполняет комплексный поиск специалистов, осуществляет проектный рекрутинг и предлагает гибкие модели работы по запросу, а также помогает масштабировать стратегии найма и рекрутинговые операции, руководит корпоративным подбором персонала, применяет анализ данных для поиска кандидатов и развивает их опыт взаимодействия с работодателем. Такой подход обеспечивает организациям гибкую поддержку по мере изменения их потребностей в найме.
Ведущий инженер по инференсу — гибридная работа в Белвью
Руководите разработкой производственных систем обслуживания моделей для компании, создающей инфраструктуру ИИ. Повышайте эффективность использования GPU, снижайте задержки, увеличивайте пропускную способность, масштабируемость и надежность для крупномасштабных ИИ-нагрузок.
Описание
- Создавать и эксплуатировать производственные системы обслуживания моделей и инференса для ИИ-нагрузок с высокой пропускной способностью и низкой задержкой
- Оптимизировать инфраструктуру инференса по пропускной способности токенов, задержке, масштабируемости и экономической эффективности для различных моделей и нагрузок
- Проектировать системы, эффективно использующие GPU и обеспечивающие стабильную производительность и надежность
- Развивать масштабируемость платформы инференса и повышать уровень ее эксплуатационной зрелости по мере роста спроса клиентов
- Работать с командами обучения ИИ, производительности GPU, оркестрации и инфраструктуры, чтобы переносить модели из разработки в производственную среду
- Внедрять мониторинг, оповещения и эксплуатационные практики, поддерживающие надежную работу сервисов инференса
- Диагностировать и устранять проблемы производительности, надежности и емкости в рабочих нагрузках инференса
- Участвовать в принятии архитектурных решений и формировании инженерных стандартов по мере развития платформы
Требования
- Опыт создания и эксплуатации производственных систем машинного обучения для инференса или обслуживания моделей в крупном масштабе
- Глубокое понимание компромиссов между задержкой, пропускной способностью, использованием памяти и экономической эффективностью при обслуживании крупных ИИ-моделей
- Опыт проектирования надежных распределенных систем или производственной инфраструктуры
- Понимание ИИ-нагрузок на базе GPU и проблем масштабирования систем инференса
- Сильная инженерная база и способность самостоятельно решать сложные технические задачи
- Готовность работать в быстро развивающейся среде, где системы и процессы создаются с нуля
- Опыт работы с современными фреймворками обслуживания инференса, такими как vLLM, SGLang, TensorRT-LLM, Triton Inference Server или сопоставимыми технологиями
- Опыт оптимизации рабочих нагрузок инференса LLM или платформ обслуживания ИИ в крупном масштабе
- Опыт эксплуатации ИИ-продуктов на базе API или высоконагруженных производственных сервисов
- Опыт работы с планированием GPU, распределенными системами, Kubernetes или облачными инфраструктурными платформами
- Знакомство с квантованием, пакетной обработкой, кэшированием или настройкой производительности
- Опыт работы в гиперскейлере, исследовательской лаборатории ИИ, облачном провайдере GPU или организации, создающей крупномасштабную инфраструктуру машинного обучения
- Требуется разрешение на работу в США
- Спонсорство визы в настоящее время не предоставляется
- Готовность работать в гибридном формате в центре Белвью, штат Вашингтон, не менее трех дней в неделю в офисе после открытия постоянного офиса
Преимущества
- Конкурентоспособная базовая заработная плата для рынка Белвью
- Повышения на основе заслуг
- Ежегодный бонус
- Долгосрочные стимулы
- Медицинское страхование
- Стоматологическое страхование
- Страхование зрения
- План 401(k)
- Взносы компании в план 401(k)
- Оплачиваемые праздничные дни
- Доля в стартапе и значимое техническое влияние
- Сотрудничество с опытной командой, занимающейся инфраструктурой ИИ