Beacon Venture Capital je plně vlastněná korporátní venture kapitálová divize společnosti Kasikornbank PLC, přední komerční banky v Thajsku. Fond byl založen v roce 2016 a strategicky investuje do technologických startupů od raných fází až po fázi růstu, přičemž se zaměřuje především na fintech. Mezi další investiční oblasti patří spotřebitelské a lifestylové podniky a pokročilé technologie, jako je umělá inteligence a podnikové IT. Beacon Venture Capital zahájil činnost s kapitálem 30 milionů dolarů, který do roku 2018 vzrostl na 135 milionů dolarů.
Seniorní softwarový inženýr pro umělou inteligenci a velké jazykové modely
Budujte a provozujte produkční schopnosti velkých jazykových modelů pro platformu letecké bezpečnosti Beacon AI. Veďte vyhledávání, volání nástrojů, evaluaci a spolehlivé poskytování služeb.
Popis
- Budujte pracovní postupy generování rozšířeného vyhledáváním a voláním nástrojů
- Vytvářejte validovaný JSON a výstupy omezené schématem s opakováním pokusů a záložním zpracováním
- Propojujte volání funkcí s interními nástroji, vyhledáváním, směrováním a datovými službami
- Vyvíjejte API a pracovní procesy v Pythonu nebo TypeScriptu s definovanými kontrakty, streamováním a mechanismem backoff
- Využívejte kešování, úpravu požadavků, šablony promptů a balení kontextu pro řízení latence a nákladů
- Integrujte služby základních modelů AWS Bedrock, OpenAI, Anthropic a vlastnoručně provozované koncové body
- Pomáhejte vyvíjet strategie segmentace, tvorby embeddingů a indexování dokumentů, časových řad a multimédií
- Vybírejte a optimalizujte vektorové databáze včetně OpenSearch, pgvector a Pinecone
- Udržujte synchronizaci znalostních bází se S3, Aurora, DynamoDB a externími zdroji dat
- Vyvíjejte offline evaluace a zlaté datové sady pro prompty, retrievery a nástroje
- Definujte produkční metriky zahrnující úspěšnost úloh, míru halucinací, přesnost a úplnost vyhledávání, latenci p95 a cenu požadavku
- Provádějte A/B testy a spravujte řízená vydání promptů a verzí s kanárkovými nasazeními
- Implementujte ochranu obsahu a zásad, detekci a redakci osobních údajů, řízení přístupu a auditní záznamy
- Vytvářejte procesy kontroly člověkem pro citlivé akce
- Doplňujte volání modelů o trasování, logování a dashboardy pro využití tokenů, chyby a saturaci
- Prověřujte problémy napříč systémy vyhledávání, prompty, nástroji a poskytovateli modelů
- Spolupracujte s produktovými, infrastrukturními, ML a bezpečnostními týmy na dodávce spolehlivých leteckých systémů
- Vytvářejte uživatelské schopnosti založené na velkých jazykových modelech pro platformu Beacon AI, aby bylo létání bezpečnější, efektivnější a schopnější
Požadavky
- 5–8 let zkušeností včetně zkušeností s dodávkou produkčních systémů ML nebo LLM
- Prokazatelné zkušenosti se spuštěním funkcí LLM pro uživatele a jejich zlepšováním na základě dat
- Silné dovednosti v oblasti produkčního vývoje softwaru, testování a dokumentace
- Praktická znalost embeddingů, segmentace, kompromisů vektorového vyhledávání a volání funkcí
- Zkušenosti s vytvářením evaluací, definováním měřítek úspěchu a iterací na základě důkazů
- Schopnost monitorovat latenci p95, plnit SLA a snižovat náklady při zachování kvality
- Schopnost převzít odpovědnost za funkce od návrhu po produkci s omezeným dohledem
- Zkušenosti s Bedrock, OpenSearch Serverless, pgvector, Pinecone nebo Weaviate jsou výhodou
- Zkušenosti s verzováním promptů, ochrannými mechanismy a směrováním mezi poskytovateli modelů jsou výhodou
- Zkušenosti s multimodálními daty, jako jsou časové řady nebo video, jsou výhodou
- Znalost GPU inference, Tritonu nebo TensorRT-LLM je výhodou
- Zkušenosti z letectví nebo jiného bezpečnostně kritického odvětví jsou výhodou
- Praktická znalost CI/CD, infrastruktury jako kódu a bezpečné správy tajných údajů je výhodou
- Uchazeč musí splňovat podmínky pro status osoby ze Spojených států
- Uchazeč musí mít zákonné oprávnění pracovat ve Spojených státech
- Sponzorství víz ani převody víz nejsou k dispozici
- Veškerá práce musí být vykonávána na území Spojených států
- Uchazeč musí žít v oblasti Sanfranciského zálivu nebo být ochoten se přestěhovat
- Uchazeč musí pracovat na pracovišti v San Carlos v Kalifornii nejméně tři dny týdně
- Uchazeč musí být k dispozici pro práci na plný úvazek
Benefity
- Součástí nabídky je podíl ve společnosti
- Společnost hradí 100 % zdravotního pojištění zaměstnance
- Společnost hradí 25 % zdravotního pojištění závislých osob
- Tři týdny placeného volna
- Nejméně 13 placených firemních svátků
- K dispozici je plán 401(k)
- Flexibilní práce na dálku v ostatní dny hybridního režimu