Beacon Venture Capital to w pełni należący do Kasikornbank PLC, czołowego banku komercyjnego w Tajlandii, korporacyjny fundusz venture capital. Założony w 2016 roku fundusz inwestuje strategicznie w technologiczne startupy — od etapu zalążkowego po fazę wzrostu — koncentrując się przede wszystkim na fintechu. Do pozostałych obszarów zainteresowania inwestycyjnego należą firmy z sektora konsumenckiego i lifestyle’owego oraz zaawansowane technologie, takie jak sztuczna inteligencja i informatyka korporacyjna. Beacon Venture Capital rozpoczął działalność z kapitałem w wysokości 30 milionów dolarów, który do 2018 roku wzrósł do 135 milionów dolarów.
Starszy inżynier oprogramowania ds. sztucznej inteligencji i dużych modeli językowych
Kieruj rozwojem lotniczych funkcji opartych na dużych modelach językowych dla platformy Beacon AI zwiększającej bezpieczeństwo lotów, obejmujących RAG, wywoływanie narzędzi, ewaluację, bezpieczeństwo i niezawodność produkcyjną.
Opis
- Twórz funkcje produktów opartych na dużych modelach językowych dla użytkowników — od projektu po środowisko produkcyjne
- Projektuj przepływy generowania wspomaganego wyszukiwaniem i wywoływania narzędzi
- Twórz niezawodne dane wyjściowe JSON oraz dane zgodne ze schematem, z walidacją, ponawianiem prób i obsługą awaryjną
- Używaj wywoływania funkcji do łączenia narzędzi wewnętrznych, wyszukiwania, routingu i usług danych
- Twórz interfejsy API i procesy robocze w Pythonie lub TypeScripcie z jasno określonymi kontraktami, strumieniowaniem i wycofywaniem
- Stosuj buforowanie, kształtowanie żądań, szablony promptów i pakowanie kontekstu, aby zarządzać opóźnieniami i kosztami
- Łącz aplikacje z AWS Bedrock, OpenAI, Anthropic lub samodzielnie hostowanymi punktami końcowymi modeli
- Współpracuj z inżynierami infrastruktury nad dzieleniem na fragmenty, osadzaniami i indeksowaniem dokumentów, szeregów czasowych oraz multimediów
- Wybieraj i optymalizuj wektorowe bazy danych, w tym OpenSearch, pgvector i Pinecone
- Utrzymuj aktualność baz wiedzy, synchronizując dane z S3, Aurora, DynamoDB i źródeł zewnętrznych
- Twórz ewaluacje offline i złote zbiory danych dla promptów, modułów wyszukiwania i narzędzi
- Definiuj metryki online dotyczące powodzenia zadań, wskaźnika halucynacji, precyzji i kompletności wyszukiwania, opóźnienia p95 oraz kosztu żądania
- Prowadź testy A/B i wdrażaj zmiany promptów oraz wersji z zabezpieczeniami i wdrożeniami kanarkowymi
- Wdrażaj egzekwowanie zasad dotyczących treści i polityk, wykrywanie i anonimizację danych osobowych, kontrolę dostępu oraz ścieżki audytu
- Twórz przepływy pracy z udziałem człowieka dla wrażliwych operacji
- Przetwarzaj dane lotnicze zgodnie z wewnętrznymi standardami bezpieczeństwa
- Zapewniaj śledzenie, logowanie i pulpity nawigacyjne dla wywołań modeli, zużycia tokenów, błędów i nasycenia systemu
- Badaj awarie dotyczące wyszukiwania, promptów, narzędzi i dostawców modeli
- Wyznaczaj kierunek techniczny w wielu usługach i zespołach dla złożonych i niejednoznacznych problemów
- Współpracuj z partnerami z zespołów uczenia maszynowego, infrastruktury i produktu nad doświadczeniem użytkownika, rezultatami, niezawodnością i systemami krytycznymi dla bezpieczeństwa
Wymagania
- Co najmniej 8 lat doświadczenia, w tym odpowiedzialność za systemy lub standardy używane przez innych inżynierów
- Alternatywnie odpowiedni tytuł magistra oraz 4 lata odpowiedniego doświadczenia
- Doświadczenie w uruchamianiu funkcji opartych na dużych modelach językowych dla użytkowników końcowych i ulepszaniu ich na podstawie danych
- Bardzo dobre umiejętności tworzenia oprogramowania produkcyjnego, testowania i dokumentacji technicznej
- Znajomość osadzeń, dzielenia na fragmenty, kompromisów wyszukiwania wektorowego i wywoływania funkcji
- Doświadczenie w projektowaniu ewaluacji, ustalaniu miar sukcesu i iteracyjnym doskonaleniu na podstawie dowodów
- Umiejętność monitorowania opóźnienia p95, spełniania umów SLA i obniżania kosztów przy zachowaniu jakości
- Umiejętność komunikowania kompromisów i uzgadniania decyzji z interesariuszami produktu, infrastruktury i bezpieczeństwa
- Doświadczenie w przywództwie technicznym, wyznaczaniu kierunku lub standardów przyjętych przez inżynierów albo zespoły
- Biegłość w Pythonie lub TypeScripcie
- Doświadczenie z RAG, przepływami wywoływania narzędzi, JSON zgodnym ze schematem, walidacją, ponawianiem prób, mechanizmami awaryjnymi, interfejsami API, procesami roboczymi, strumieniowaniem, wycofywaniem, buforowaniem, szablonami promptów, pakowaniem kontekstu i dostawcami modeli
- Doświadczenie z AWS Bedrock, OpenAI, Anthropic lub samodzielnie hostowanymi punktami końcowymi
- Znajomość OpenSearch, pgvector, Pinecone lub Weaviate
- Doświadczenie w pracy ze źródłami danych S3, Aurora i DynamoDB
- Doświadczenie w ewaluacji offline, złotych zbiorach danych, metrykach online, testach A/B, wdrażaniu promptów i wersji, zabezpieczeniach oraz wdrożeniach kanarkowych
- Doświadczenie we wdrażaniu kontroli treści i polityk, wykrywaniu i anonimizacji danych osobowych, zarządzaniu dostępem i audycie
- Doświadczenie ze śledzeniem, logowaniem, pulpitami nawigacyjnymi, rozwiązywaniem problemów z wywołaniami modeli i operacjami produkcyjnymi
- Wymagany jest status U.S. Person; sponsorowanie wiz i transfery nie są dostępne
- Cała praca musi być wykonywana na terenie Stanów Zjednoczonych
- Możliwość pracy w rejonie Zatoki San Francisco lub w San Carlos w Kalifornii, co najmniej 3 dni w tygodniu stacjonarnie
Benefity
- Oferowane są udziały w kapitale firmy
- Firma pokrywa 100% składek na ubezpieczenie medyczne pracownika
- Firma pokrywa 25% składek na ubezpieczenie medyczne osób pozostających na utrzymaniu
- Trzy tygodnie płatnego urlopu
- Co najmniej 13 płatnych dni świątecznych firmy
- Oferowany jest plan 401(k)
- W pozostałe dni harmonogramu hybrydowego dostępna jest praca zdalna