Designworks Talent LLC е компания за подбор и консултиране в областта на талантите, която обслужва бързо развиващи се стартъпи и глобални предприятия. Основана през 2009 г., компанията съчетава опитни специалисти по подбор с инструменти, базирани на изкуствен интелект, за да подпомага по-бързото и по-целенасочено наемане. Дейността ѝ обхваща цялостно търсене на кандидати, подбор на проектен принцип и гъвкави модели при поискване, както и мащабируеми стратегии за наемане, операции по подбор, управление на придобиването на таланти в предприятията, търсене на кандидати, основано на данни, и кандидатско изживяване. Подходът на екипа е разработен така, че да предоставя на организациите адаптивна подкрепа, докато потребностите им от наемане се развиват.
Старши инженер по инференция – хибридно в Белвю
Ръководете разработването на продукционни системи за обслужване на модели за компания за AI инфраструктура. Подобрявайте използването на GPU, латентността, пропускателната способност, мащабируемостта и надеждността при широкомащабни AI натоварвания.
Описание
- Изграждайте и поддържайте продукционни системи за обслужване на модели и инференция за AI натоварвания с висока пропускателна способност и ниска латентност
- Оптимизирайте инфраструктурата за инференция по отношение на пропускателната способност на токените, латентността, мащабируемостта и разходната ефективност при различни модели и натоварвания
- Проектирайте системи, които използват GPU ефективно, като същевременно осигуряват постоянна производителност и надеждност
- Развивайте мащабируемостта и оперативната зрялост на платформата за инференция с нарастването на клиентското търсене
- Работете с екипите за обучение на AI модели, производителност на GPU, оркестрация и инфраструктура, за да прехвърляте моделите от разработка в продукция
- Въвеждайте мониторинг, известия и оперативни практики, които поддържат надеждни инференционни услуги
- Диагностицирайте и отстранявайте проблеми с производителността, надеждността и капацитета при инференционни натоварвания
- Участвайте във формирането на архитектурни решения и инженерни стандарти с развитието на платформата
Изисквания
- Опит в изграждането и поддържането на продукционни системи за инференция или обслужване на модели за машинно обучение в голям мащаб
- Задълбочено разбиране на компромисите между латентност, пропускателна способност, използване на паметта и разходна ефективност при обслужване на големи AI модели
- Опит в проектирането на надеждни разпределени системи или продукционна инфраструктура
- Разбиране на AI натоварванията, използващи GPU, и предизвикателствата при мащабиране на инференционни системи
- Силни инженерни основи и способност за самостоятелно поемане на сложни технически проблеми
- Готовност за работа в динамична среда, в която системите и процесите се изграждат от нулата
- Опит със съвременни рамки за инференция, като vLLM, SGLang, TensorRT-LLM, Triton Inference Server или сравними технологии
- Опит в оптимизирането на инференционни натоварвания за LLM или платформи за широкомащабно обслужване на AI
- Опит в експлоатацията на AI продукти, базирани на API, или високонатоварени продукционни услуги
- Опит с планиране на GPU ресурси, разпределени системи, Kubernetes или облачни инфраструктурни платформи
- Познаване на квантизация, пакетна обработка, кеширане или настройка на производителността
- Опит в hyperscaler, AI лаборатория, доставчик на GPU облачни услуги или организация за широкомащабна ML инфраструктура
- Изисква се разрешение за работа в САЩ
- Спонсорство за виза понастоящем не се предлага
- Готовност за хибридна работа в центъра на Белвю, щата Вашингтон, с присъствие в офиса поне три дни седмично след установяването на постоянния офис
Придобивки
- Конкурентно основно възнаграждение за пазара в Белвю
- Повишения според заслугите
- Годишен бонус
- Дългосрочни стимули
- Медицинска застраховка
- Стоматологична застраховка
- Застраховка за зрението
- План 401(k)
- Съвпадащ принос от компанията към план 401(k)
- Платени празници
- Собственост в стартъпа и значимо техническо въздействие
- Сътрудничество с опитен екип по AI инфраструктура