Baseten предоставя инфраструктура за инференция на модели за компании, които внедряват приложения за машинно обучение и изкуствен интелект. Платформата му е създадена за бързо и мащабируемо обслужване на модели, като съчетава инференция с висока пропускателна способност, бързо внедряване, автоматично мащабиране, сигурно обслужване на модели за предприятия и поддръжка на опаковането на модели с отворен код. Baseten помага на инженерните екипи и екипите по машинно обучение да управляват оперативните изисквания на инфраструктурата за модели, за да могат да се съсредоточат върху разработването на модели, специфични за съответната област. Компанията работи в областта на изкуствения интелект, SaaS и корпоративните технологии и има 11–50 служители.
Архитект на решения – AI/ML инференция, дистанционна работа от Съединените щати
Присъединете се към Baseten като архитект на решения и помагайте на клиентите да превръщат изискванията за AI/ML в готови за продукция инференционни внедрявания и proof of concept проекти. Ще работите с екипите по продажби и инженеринг върху проучване на потребностите, демонстрации, бенчмаркинг, архитектура и техническо изпълнение.
Съединени щати145 000 $ – 290 000 $ / година
ДистанционноПълен работен денСредно нивоСтаршиЗадължителен Език: английскиИнженер по решениятаОписание
- Сътрудничество с екипа по продажби по време на разговори за проучване на потребностите на клиентите
- Ръководене на демонстрации и техническо определяне на обхвата около критериите за успех, архитектурата и плановете за внедряване
- Отговаряне за бенчмаркинга и повторяемите внедрявания на LLM, embedding модели, генериране на изображения и видео и гласов AI
- Насочване на клиентите при избора на GPU и конфигурации за инференция, включително избора между H100 и B200 и оптимизирането на съотношението между латентност и пропускателна способност
- Разработване на повторяеми ръководства за внедряване на често използвани модели и случаи на употреба
- Изграждане на задълбочена практическа експертиза във vLLM, SGLang и TRT-LLM и техните типични конфигурации и компромиси
- Дефиниране на proof of concept проекти и координиране на заинтересованите страни по отношение на срокове, резултати и следващи стъпки
- Управление на клиентски proof of concept проекти като технически ръководител на проекта
- Включване на екипа Forward Deployed Engineering, когато проектите изискват по-задълбочена или по-сложна техническа поддръжка
Изисквания
- Опит в областта на AI/ML и необходимата достоверност за обсъждане на технически теми със заинтересовани страни от страна на клиента
- Силни комуникационни умения при работа с клиенти, включително структурирано проучване на потребностите и способност за разрешаване на неясни изисквания
- Техническа експертиза, достатъчна за определяне на обхвата на решенията без писане на продукционен код
- Способност за създаване на скриптове и прототипи при необходимост и увереност при използване на бързи работни процеси за програмиране
- Опит в провеждането или подпомагането на бенчмаркове за внедрявания на инференция за машинно обучение
- Разбиране на инфраструктурните решения, влияещи върху производителността и разходите при инференция, включително избора на GPU и настройването на латентността и пропускателната способност
- Опит в ръководенето на клиентски proof of concept проекти между екипите по продажби и инженеринг като технически собственик на междуфункционална работа
Придобивки
- Конкурентно възнаграждение със значим дялов капитал
- За служителите в САЩ и лицата на тяхна издръжка – пълно медицинско, стоматологично и зрително застрахователно покритие
- Гъвкаво платено отпусъчно време със зимна почивка за цялата компания
- Платен родителски отпуск
- Стипендия за лечение на безплодие и изграждане на семейство чрез Carrot
- За служителите в САЩ – план 401(k), улеснен от компанията
- Възможности за работа с разнообразни ML стартъпи и за разширяване на знанията и професионалната мрежа