Beacon Venture Capital to w pełni należący do Kasikornbank PLC, czołowego banku komercyjnego w Tajlandii, korporacyjny fundusz venture capital. Założony w 2016 roku fundusz inwestuje strategicznie w technologiczne startupy — od etapu zalążkowego po fazę wzrostu — koncentrując się przede wszystkim na fintechu. Do pozostałych obszarów zainteresowania inwestycyjnego należą firmy z sektora konsumenckiego i lifestyle’owego oraz zaawansowane technologie, takie jak sztuczna inteligencja i informatyka korporacyjna. Beacon Venture Capital rozpoczął działalność z kapitałem w wysokości 30 milionów dolarów, który do 2018 roku wzrósł do 135 milionów dolarów.
Starszy inżynier oprogramowania ds. sztucznej inteligencji i dużych modeli językowych
Twórz i eksploatuj produkcyjne rozwiązania oparte na dużych modelach językowych dla platformy bezpieczeństwa lotniczego Beacon AI. Kieruj wyszukiwaniem, wywoływaniem narzędzi, ewaluacją i niezawodnym dostarczaniem usług.
Opis
- Twórz przepływy generowania wspomaganego wyszukiwaniem i wywoływaniem narzędzi
- Generuj zweryfikowany JSON i dane wyjściowe zgodne ze schematem, z ponawianiem prób i obsługą awaryjną
- Łącz wywoływanie funkcji z wewnętrznymi narzędziami, wyszukiwaniem, routingiem i usługami danych
- Twórz interfejsy API i procesy robocze w Pythonie lub TypeScript z określonymi kontraktami, strumieniowaniem i mechanizmem backoff
- Wykorzystuj buforowanie, kształtowanie żądań, szablony promptów i pakowanie kontekstu do zarządzania opóźnieniami i kosztami
- Integruj usługi modeli bazowych AWS Bedrock, OpenAI, Anthropic oraz własne punkty końcowe
- Pomagaj opracowywać strategie dzielenia na fragmenty, tworzenia embeddingów i indeksowania dokumentów, szeregów czasowych oraz multimediów
- Wybieraj i optymalizuj wektorowe bazy danych, w tym OpenSearch, pgvector i Pinecone
- Utrzymuj synchronizację baz wiedzy z S3, Aurora, DynamoDB i zewnętrznymi źródłami danych
- Opracowuj ewaluacje offline i złote zbiory danych dla promptów, retrieverów i narzędzi
- Definiuj metryki produkcyjne obejmujące skuteczność zadań, wskaźnik halucynacji, precyzję i czułość wyszukiwania, opóźnienie p95 oraz koszt żądania
- Prowadź testy A/B i zarządzaj kontrolowanymi wydaniami promptów i wersji z wdrożeniami canary
- Wdrażaj zabezpieczenia treści i zasad, wykrywanie i anonimizację danych osobowych, kontrolę dostępu oraz ścieżki audytowe
- Twórz procesy weryfikacji przez człowieka dla wrażliwych działań
- Wyposażaj wywołania modeli w śledzenie, logowanie i pulpity monitorujące zużycie tokenów, błędy i nasycenie
- Badaj problemy w systemach wyszukiwania, promptach, narzędziach i u dostawców modeli
- Współpracuj z zespołami produktu, infrastruktury, ML i bezpieczeństwa, aby dostarczać niezawodne systemy lotnicze
- Twórz funkcje LLM dla użytkowników platformy Beacon AI, aby latanie było bezpieczniejsze, wydajniejsze i bardziej zaawansowane
Wymagania
- 5–8 lat doświadczenia, w tym doświadczenie w dostarczaniu produkcyjnych systemów ML lub LLM
- Udokumentowane doświadczenie we wprowadzaniu funkcji LLM dla użytkowników i ulepszaniu ich na podstawie danych
- Bardzo dobre umiejętności w zakresie produkcyjnego tworzenia oprogramowania, testowania i dokumentowania
- Praktyczna znajomość embeddingów, dzielenia na fragmenty, kompromisów wyszukiwania wektorowego i wywoływania funkcji
- Doświadczenie w tworzeniu ewaluacji, definiowaniu miar sukcesu i iterowaniu na podstawie dowodów
- Umiejętność monitorowania opóźnienia p95, spełniania SLA i obniżania kosztów przy zachowaniu jakości
- Umiejętność przejęcia odpowiedzialności za funkcje od projektu do produkcji przy ograniczonym nadzorze
- Preferowane doświadczenie z Bedrock, OpenSearch Serverless, pgvector, Pinecone lub Weaviate
- Preferowane doświadczenie z wersjonowaniem promptów, zabezpieczeniami i routingiem między dostawcami modeli
- Preferowane doświadczenie z danymi multimodalnymi, takimi jak szeregi czasowe lub wideo
- Preferowana znajomość wnioskowania na GPU, Triton lub TensorRT-LLM
- Preferowane doświadczenie w lotnictwie lub innej branży o krytycznym znaczeniu dla bezpieczeństwa
- Preferowana praktyczna znajomość CI/CD, infrastruktury jako kodu i bezpiecznego zarządzania sekretami
- Kandydat musi kwalifikować się jako osoba ze Stanów Zjednoczonych
- Kandydat musi mieć prawną zgodę na pracę w Stanach Zjednoczonych
- Sponsoring wizowy i transfer wiz nie są dostępne
- Cała praca musi być wykonywana na terenie Stanów Zjednoczonych
- Kandydat musi mieszkać w rejonie Zatoki San Francisco lub być gotowy do przeprowadzki
- Kandydat musi pracować stacjonarnie w San Carlos w Kalifornii co najmniej trzy dni w tygodniu
- Kandydat musi być dostępny do pracy w pełnym wymiarze godzin
Benefity
- Oferta obejmuje udział w kapitale firmy
- Firma pokrywa 100% składek medycznych pracownika
- Firma pokrywa 25% składek medycznych osób na utrzymaniu
- Trzy tygodnie płatnego urlopu
- Co najmniej 13 płatnych świąt firmowych
- Dostępny plan 401(k)
- Elastyczna praca zdalna w pozostałe dni harmonogramu hybrydowego