Baseten

11 – 50 Служители

Спонсор на виза H1B SaaS Изкуствен интелект Предприятие

Baseten предоставя инфраструктура за инференция на модели за компании, които внедряват приложения за машинно обучение и изкуствен интелект. Платформата му е създадена за бързо и мащабируемо обслужване на модели, като съчетава инференция с висока пропускателна способност, бързо внедряване, автоматично мащабиране, сигурно обслужване на модели за предприятия и поддръжка на опаковането на модели с отворен код. Baseten помага на инженерните екипи и екипите по машинно обучение да управляват оперативните изисквания на инфраструктурата за модели, за да могат да се съсредоточат върху разработването на модели, специфични за съответната област. Компанията работи в областта на изкуствения интелект, SaaS и корпоративните технологии и има 11–50 служители.

Работни места в компанията

Софтуерен инженер, платформа за LLM инференция – Baseten Hybrid

Изграждайте разпределената платформа на Baseten за LLM инференция за AI компании. Работете с оркестрация на Kubernetes, API за модели, маршрутизация, автоматично мащабиране и наблюдаемост на продукционните системи.

преди 1 седмица

180 000 $ – 360 000 $ / година

Хибридно Пълен работен ден Средно ниво Старши Задължителен Език: английски Софтуерен инженер Фулстек инженер

Kubernetes Разпределени системи

Описание

Изграждане на инфраструктура и оркестрация за мащабна разпределена LLM инференция, включително маршрутизация, автоматично мащабиране, планиране и управление на изпълнението.
Разработване и експлоатация на API за модели, поддържащи структурирани изходи, извикване на инструменти и функции и мултимодално обслужване.
Реализиране на версиониране на API, валидиране на заявки, измерване на използването, квоти и удостоверяване.
Създаване на инструментариум за метрики, трасета и логове заедно с възпроизводими бенчмаркове за бързина, надеждност и качество.
Определяне на добри практики за тестване, автоматизация на изданията и оперативно съвършенство.
Диагностициране и укрепване на продукционни системи в Kubernetes, разпределени среди за изпълнение, мрежи и GPU натоварвания.
Сътрудничество с инженери по производителността на инференцията и партньорски екипи за създаване на оптимизации, насочени към клиентите.
Ръководене на проекти от архитектурата и внедряването до мониторинга и итерациите, основани на обратната връзка от клиентите.
Балансиране на производителността на системата, надеждността, оперативната простота и изживяването на разработчиците.

Изисквания

Бакалавърска, магистърска или докторска степен по компютърни науки, инженерство или сродна област, или еквивалентен практически опит.
Поне три години опит в изграждането и експлоатацията на разпределени системи, бекенд инфраструктура или API с голям мащаб, при които надеждността, латентността и мащабирането са критични.
Доказана отговорност за надеждни бекенд услуги с ниска латентност, включващи ограничаване на честотата, удостоверяване, квоти, измерване и миграции.
Силна преценка в областта на инфраструктурата, включително опит с профилиране, трасировка, планиране на капацитета и управление на SLO.
Способност за диагностициране на проблеми с производителността и надеждността на ниво приложение, среда за изпълнение и инфраструктура.
Силен фокус върху изживяването на разработчиците.
Готовност за изучаване на нови езици, рамки и системи, както и интерес към инженерството на инференцията.
Отлични умения за писмена комуникация и сътрудничество, включително ясна проектна документация и ефективна междуфункционална работа.
Опит с енджини или рамки за LLM инференция, като vLLM, SGLang, TensorRT-LLM, TGI или Dynamo, или принос към тях, е предимство.
Задълбочен опит с Kubernetes, включително оператори и персонализирани ресурси; познаването на service mesh или API gateway е предимство.
Опит с разпределено планиране, автоматично мащабиране или оркестрация на услуги е предимство.
Опит с продукционни GPU натоварвания е предимство.
Опит с инфраструктура или API, предназначени за разработчици, или принос към инфраструктура с отворен код или системи за машинно обучение, е предимство.
Познаването на инструменти за наблюдаемост, CI/CD системи или автоматизация на изданията е предимство.

Придобивки

Конкурентно възнаграждение със значим дялов компонент.
За служители и лица на тяхна издръжка в САЩ – пълно покритие на медицинска, стоматологична и зрителна застраховка.
Гъвкав платен отпуск, включително зимна почивка за цялата компания.
Платен родителски отпуск.
Подкрепа за фертилност и създаване на семейство чрез стипендия от Carrot.
За служители в САЩ – план 401(k), организиран от компанията.
Достъп до разнообразни стартъпи в областта на машинното обучение, което създава значителни възможности за учене и професионално свързване.

Свързани работни места

201 – 500 Служители

Електронна търговия Финтех

Сърбия Дистанционно Пълен работен ден Водещ специалист Задължителен Език: английски Софтуерен инженер Фулстек инженер

Go Google Cloud Platform Kubernetes Postgres Redis Микроуслуги

Изграждайте общи бекенд системи, инструменти за разработчици и решения за сигурност за глобалната финтех платформа на Tabby. Ръководете мащабни инициативи за разпределени системи в международен екип, работещ дистанционно.

Отвори

201 – 500 Служители

Електронна търговия Финтех

Казахстан Дистанционно Пълен работен ден Водещ специалист Задължителен Език: английски Софтуерен инженер Фулстек инженер

Go Google Cloud Platform Kubernetes Postgres Redis Микроуслуги

Определяйте техническата посока на споделената бекенд инфраструктура, сигурността и инструментите за разработчици на Tabby. Изграждайте надеждни системи за глобална финтех платформа с гъвкави плащания, обслужваща милиони потребители.

Отвори

1 – 10 Служители

Изкуствен интелект Медии

Съединени щати Дистанционно Пълен работен ден Средно ниво Старши Задължителен Език: английски Софтуерен инженер Фулстек инженер

Подобрете таблото за API на ElevenLabs, въвеждането на потребители и работата на разработчиците. Изграждайте full-stack функционалности за аудио платформите на компанията, базирани на изкуствен интелект.

Отвори

201 – 500 Служители

Електронна търговия Финтех

Грузия Дистанционно Пълен работен ден Водещ специалист Задължителен Език: английски Софтуерен инженер Фулстек инженер

Go Google Cloud Platform Kubernetes Postgres Redis Микроуслуги

Изграждайте общи бекенд системи, инструменти за разработчици и решения за сигурност за глобалната финтех платформа на Tabby. Ръководете сложни инженерни инициативи в разпределена организация.

Отвори

201 – 500 Служители

Електронна търговия Финтех

Армения Дистанционно Пълен работен ден Водещ специалист Задължителен Език: английски Софтуерен инженер Фулстек инженер

Go Google Cloud Platform Kubernetes Postgres Redis Микроуслуги

Определяйте техническата посока на споделените бекенд системи, инструментите за разработчици и инженерните практики на Tabby. Помагайте на екипите да изграждат надеждни и сигурни услуги за глобална финтех платформа.

Отвори

Спонсор на виза H1B Здравеопазване Изкуствен интелект Производство

124 000 $ – 195 500 $ / година

Дистанционно Пълен работен ден Младши Средно ниво Задължителен Език: английски Софтуерен инженер Фулстек инженер

Оптимизирайте производителността на централните процесори за центрове за данни от следващо поколение и суперчиповете CPU-GPU на NVIDIA, базирани на ARM SoC. Анализирайте тесните места, бенчмарковете и натоварванията при конкурентни процесори.

Отвори

201 – 500 Служители

Електронна търговия Финтех

Полша Дистанционно Пълен работен ден Водещ специалист Задължителен Език: английски Софтуерен инженер Фулстек инженер

Go Google Cloud Platform Kubernetes Postgres Redis Микроуслуги

Определяйте посоката на споделените бекенд системи, инструментите за разработчици и решенията за сигурност в глобалната финтех платформа на Tabby. Ръководете сложни инженерни инициативи с Go, обхващащи разпределени системи.

Отвори

Спонсор на виза за квалифициран работник Банково дело Финанси Финтех

Индия На място Пълен работен ден Водещ специалист Задължителен Език: английски Софтуерен инженер Фулстек инженер

AWS Jenkins Kubernetes OpenShift Splunk Terraform Vault

Изграждайте и поддържайте сигурни, устойчиви и мащабируеми платформи за банкови клиенти. Разработвайте софтуер през целия му жизнен цикъл с помощта на облачни и DevOps технологии.

Отвори

1 – 10 Служители

B2B HR технологии Подбор на персонал

Филипини

2500 AUD – 4000 AUD / месец

Дистанционно Договор Старши Задължителен Език: английски Мениджър на социални медии

Ръководите платената и органичната стратегия във Facebook и Instagram за клиенти от здравния сектор, като използвате креативно ръководство и анализи за привличане на квалифицирани потенциални клиенти. Това е старша договорна позиция с дистанционна работа от Филипините.

Отвори

1 – 10 Служители

Благосъстояние Здравеопазване Хотелиерство

Германия

52 000 € / година

Хибридно Пълен работен ден Старши Задължителен Език: немски Задължителен Език: английски Мениджър на социални медии

Ръководете социалните кампании и създаването на съдържание за Soulhouse, разрастваща се европейска марка за грижа за себе си. Разработвайте работни процеси с подкрепата на изкуствен интелект за Instagram и TikTok.

Отвори

Софтуерен инженер, платформа за LLM инференция – Baseten Hybrid

Описание

Изисквания

Придобивки

Свързани работни места

Главен бекенд инженер

Главен бекенд инженер

Продуктов инженер с дистанционна работа в ElevenLabs

Старши бекенд инженер

Staff Backend Engineer, Армения (дистанционно)

NVIDIA Инженер системен софтуер за производителност – дистанционна работа

Главен бекенд инженер, Полша (дистанционна работа)

Софтуерен инженер за AWS (AVP)

Старши стратег за социални медии

Старши мениджър социални медии