Baseten zapewnia infrastrukturę do wnioskowania modeli dla firm wdrażających aplikacje oparte na uczeniu maszynowym i sztucznej inteligencji. Platforma została zaprojektowana z myślą o szybkim i skalowalnym udostępnianiu modeli, łącząc wysoką przepustowość wnioskowania, szybkie wdrażanie, automatyczne skalowanie, bezpieczne udostępnianie modeli klasy korporacyjnej oraz obsługę pakowania modeli open source. Baseten pomaga zespołom inżynieryjnym i zespołom zajmującym się uczeniem maszynowym zarządzać operacyjnymi wymaganiami infrastruktury modeli, aby mogły koncentrować się na tworzeniu modeli dostosowanych do konkretnych dziedzin. Firma działa w obszarach sztucznej inteligencji, SaaS i technologii dla przedsiębiorstw, a jej zespół liczy od 11 do 50 pracowników.
Architekt rozwiązań — wnioskowanie AI/ML, praca zdalna w Stanach Zjednoczonych
Dołącz do Baseten jako architekt rozwiązań i pomagaj klientom przekładać wymagania dotyczące AI/ML na gotowe do wdrożenia rozwiązania do wnioskowania oraz demonstracje koncepcji. Współpracuj z zespołami sprzedaży i inżynierii przy analizie potrzeb, demonstracjach, benchmarkach, architekturze i realizacji technicznej.
Stany Zjednoczone145 000 $ – 290 000 $ / rok
ZdalniePełny etatPoziom średniSeniorWymagany Język: angielskiInżynier rozwiązańOpis
- Współpracować z zespołem sprzedaży podczas rozmów dotyczących potrzeb klientów
- Prowadzić demonstracje i definiować zakres techniczny z uwzględnieniem kryteriów sukcesu, architektury oraz planów wdrożenia
- Odpowiadać za benchmarki i powtarzalne wdrożenia LLM, embeddingów, generowania obrazów i wideo oraz Voice AI
- Pomagać klientom w wyborze konfiguracji GPU i wnioskowania, w tym między H100 a B200, oraz optymalizować relację między opóźnieniem a przepustowością
- Tworzyć powtarzalne podręczniki wdrożeń dla popularnych modeli i zastosowań
- Zdobyć głęboką praktyczną wiedzę na temat vLLM, SGLang, TRT-LLM, ich typowych konfiguracji i kompromisów
- Definiować zakresy demonstracji koncepcji oraz koordynować interesariuszy w zakresie terminów, rezultatów i kolejnych kroków
- Zarządzać demonstracjami koncepcji klientów jako lider techniczny projektu
- Angażować zespół Forward Deployed Engineering, gdy projekty wymagają głębszego lub bardziej złożonego wsparcia technicznego
Wymagania
- Doświadczenie w obszarze AI/ML oraz wiarygodność techniczna pozwalająca omawiać kwestie techniczne z przedstawicielami klientów
- Bardzo dobre umiejętności komunikacji z klientami, w tym prowadzenia uporządkowanej analizy potrzeb i rozwiązywania niejednoznacznych wymagań
- Wiedza techniczna wystarczająca do definiowania rozwiązań bez pisania kodu produkcyjnego
- Umiejętność tworzenia skryptów i prototypów w razie potrzeby oraz swoboda w korzystaniu z szybkich metod programowania
- Doświadczenie w przeprowadzaniu lub wspieraniu benchmarków wdrożeń wnioskowania maszynowego
- Znajomość decyzji infrastrukturalnych wpływających na wydajność i koszt wnioskowania, w tym wyboru GPU oraz dostrajania relacji między opóźnieniem a przepustowością
- Doświadczenie w prowadzeniu demonstracji koncepcji klientów wspólnie z zespołami sprzedaży i inżynierii jako międzyfunkcyjny właściciel techniczny
Benefity
- Konkurencyjne wynagrodzenie i istotny udział w kapitale firmy
- Dla pracowników i osób na ich utrzymaniu w USA — pełne ubezpieczenie medyczne, stomatologiczne i okulistyczne
- Elastyczny płatny urlop oraz ogólnofirmowa przerwa zimowa
- Płatny urlop rodzicielski
- Dofinansowanie leczenia niepłodności i budowania rodziny za pośrednictwem Carrot
- Dla pracowników w USA — firmowy plan 401(k)
- Możliwość pracy z różnorodnymi startupami ML oraz rozwijania wiedzy i sieci kontaktów zawodowych