Baseten предоставляет инфраструктуру для инференса моделей компаниям, развертывающим приложения на основе машинного обучения и искусственного интеллекта. Платформа создана для быстрого и масштабируемого обслуживания моделей и объединяет высокую пропускную способность инференса, быстрое развертывание, автоматическое масштабирование, защищенное обслуживание моделей корпоративного уровня и поддержку упаковки моделей с открытым исходным кодом. Baseten помогает инженерным командам и специалистам по машинному обучению управлять операционными задачами инфраструктуры моделей, чтобы они могли сосредоточиться на разработке моделей для конкретных предметных областей. Компания работает в сферах искусственного интеллекта, SaaS и корпоративных технологий; в ее команде от 11 до 50 сотрудников.
Архитектор решений — вывод AI/ML-моделей, удалённая работа в США
Присоединяйтесь к Baseten в роли архитектора решений и помогайте клиентам превращать требования к AI/ML в готовые к эксплуатации решения для вывода моделей и проверки концепции. Работайте с командами продаж и разработки над выявлением потребностей, демонстрациями, бенчмаркингом, архитектурой и технической реализацией.
Описание
- Сотрудничать с отделом продаж во время ознакомительных звонков с клиентами
- Проводить демонстрации и определять технические решения с учётом критериев успеха, архитектуры и планов развёртывания
- Отвечать за бенчмаркинг и воспроизводимые развёртывания LLM, эмбеддингов, генерации изображений и видео, а также Voice AI
- Помогать клиентам выбирать конфигурации GPU и вывода моделей, включая выбор между H100 и B200 и оптимизацию соотношения задержки и пропускной способности
- Разрабатывать воспроизводимые сценарии развёртывания для распространённых моделей и вариантов использования
- Глубоко разбираться на практике в vLLM, SGLang, TRT-LLM, их типичных конфигурациях и компромиссах
- Определять содержание проверок концепции и координировать участников по срокам, результатам и дальнейшим шагам
- Управлять проверками концепции клиентов в роли технического руководителя проекта
- Подключать команду Forward Deployed Engineering, когда проектам требуется более глубокая или сложная техническая поддержка
Требования
- Опыт в области AI/ML и достаточная техническая компетентность для общения с представителями клиентов на профессиональном уровне
- Сильные навыки коммуникации с клиентами, включая структурированное выявление потребностей и умение разрешать неоднозначные требования
- Техническая экспертиза, достаточная для определения решений без написания промышленного кода
- Умение писать скрипты и создавать прототипы при необходимости, комфортная работа в условиях быстрого цикла разработки
- Опыт проведения или поддержки бенчмаркинга развёртываний машинного обучения
- Понимание инфраструктурных решений, влияющих на производительность и стоимость вывода моделей, включая выбор GPU и настройку соотношения задержки и пропускной способности
- Опыт руководства проверками концепции клиентов совместно с командами продаж и разработки в качестве межфункционального технического руководителя
Преимущества
- Конкурентная компенсация и значимая доля в капитале компании
- Для сотрудников и иждивенцев в США — полное медицинское, стоматологическое страхование и страхование зрения
- Гибкий оплачиваемый отпуск и общий зимний перерыв для всей компании
- Оплачиваемый отпуск по уходу за ребёнком
- Стипендия на лечение бесплодия и создание семьи через Carrot
- Для сотрудников в США — корпоративный план 401(k)
- Возможность работать с разнообразными ML-стартапами, расширять знания и профессиональные связи