Beacon Venture Capital je plně vlastněná korporátní venture kapitálová divize společnosti Kasikornbank PLC, přední komerční banky v Thajsku. Fond byl založen v roce 2016 a strategicky investuje do technologických startupů od raných fází až po fázi růstu, přičemž se zaměřuje především na fintech. Mezi další investiční oblasti patří spotřebitelské a lifestylové podniky a pokročilé technologie, jako je umělá inteligence a podnikové IT. Beacon Venture Capital zahájil činnost s kapitálem 30 milionů dolarů, který do roku 2018 vzrostl na 135 milionů dolarů.
Vedoucí softwarový inženýr pro umělou inteligenci a velké jazykové modely
Veďte vývoj leteckých funkcí založených na velkých jazykových modelech pro platformu Beacon AI zvyšující bezpečnost letů, včetně RAG, volání nástrojů, evaluace, bezpečnosti a produkční spolehlivosti.
Popis
- Vytvářejte uživatelské produktové funkce založené na velkých jazykových modelech od návrhu až po produkci
- Navrhujte pracovní postupy generování s podporou vyhledávání a volání nástrojů
- Vytvářejte spolehlivé výstupy JSON a výstupy s omezením podle schématu s validací, opakováním a záložním zpracováním
- Používejte volání funkcí k propojení interních nástrojů, vyhledávání, směrování a datových služeb
- Vyvíjejte API a pracovní procesy v Pythonu nebo TypeScriptu s explicitními kontrakty, streamováním a exponenciálním čekáním
- Používejte cachování, úpravu požadavků, šablony promptů a balení kontextu pro řízení latence a nákladů
- Propojujte aplikace s AWS Bedrock, OpenAI, Anthropic nebo samostatně hostovanými koncovými body modelů
- Spolupracujte s infrastrukturními inženýry na dělení na části, embeddingu a indexování dokumentů, časových řad a multimédií
- Vybírejte a optimalizujte vektorové databáze včetně OpenSearch, pgvector a Pinecone
- Udržujte znalostní báze aktuální synchronizací dat ze S3, Aurora, DynamoDB a externích zdrojů
- Vytvářejte offline evaluace a zlaté datové sady pro prompty, vyhledávače a nástroje
- Definujte online metriky úspěšnosti úloh, míry halucinací, přesnosti a úplnosti vyhledávání, latence p95 a nákladů na požadavek
- Provádějte A/B testy a zavádějte změny promptů a verzí s ochrannými mechanismy a kanárkovými nasazeními
- Implementujte vynucování pravidel pro obsah a zásady, detekci a redakci osobních údajů, řízení přístupu a auditní záznamy
- Vytvářejte pracovní postupy s účastí člověka pro citlivé operace
- Zpracovávejte letecká data v souladu s interními bezpečnostními standardy
- Zajišťujte trasování, protokolování a řídicí panely pro volání modelů, využití tokenů, chyby a saturaci systému
- Prověřujte selhání ve vyhledávání, promptech, nástrojích a u poskytovatelů modelů
- Určujte technické směřování napříč službami a týmy při řešení složitých a nejednoznačných problémů
- Spolupracujte s partnery z oblasti strojového učení, infrastruktury a produktu na uživatelské zkušenosti, výsledcích, spolehlivosti a systémech kritických z hlediska bezpečnosti
Požadavky
- Nejméně 8 let zkušeností včetně odpovědnosti za systémy nebo standardy používané dalšími inženýry
- Případně odpovídající magisterský titul a 4 roky relevantních zkušeností
- Zkušenost se spuštěním funkcí založených na velkých jazykových modelech pro koncové uživatele a jejich zlepšováním na základě dat
- Silné dovednosti v oblasti produkčního vývoje, testování a technické dokumentace
- Znalost embeddingů, dělení na části, kompromisů vektorového vyhledávání a volání funkcí
- Zkušenost s navrhováním evaluací, stanovováním metrik úspěchu a iterací na základě důkazů
- Schopnost sledovat latenci p95, plnit SLA a snižovat náklady při zachování kvality
- Schopnost komunikovat kompromisy a slaďovat zainteresované strany z oblasti produktu, infrastruktury a bezpečnosti
- Zkušenost s technickým vedením při určování směřování nebo standardů přijatých inženýry či týmy
- Znalost Pythonu nebo TypeScriptu
- Zkušenost s RAG, pracovními postupy volání nástrojů, JSON s omezením podle schématu, validací, opakováním, záložními postupy, API, pracovními procesy, streamováním, exponenciálním čekáním, cachováním, šablonami promptů, balením kontextu a poskytovateli modelů
- Zkušenost s AWS Bedrock, OpenAI, Anthropic nebo samostatně hostovanými koncovými body
- Znalost OpenSearch, pgvector, Pinecone nebo Weaviate
- Zkušenost s datovými zdroji S3, Aurora a DynamoDB
- Zkušenost s offline evaluací, zlatými datovými sadami, online metrikami, A/B testováním, zaváděním promptů a verzí, ochrannými mechanismy a kanárkovými nasazeními
- Zkušenost s implementací kontrol obsahu a zásad, detekcí a redakcí osobních údajů, správou přístupu a auditem
- Zkušenost s trasováním, protokolováním, řídicími panely, řešením problémů s voláním modelů a produkčním provozem
- Je vyžadován status U.S. Person; sponzorování víz ani převody nejsou k dispozici
- Veškerá práce musí být vykonávána na území Spojených států
- Schopnost pracovat v oblasti Sanfranciského zálivu nebo v San Carlosu v Kalifornii alespoň 3 dny týdně na pracovišti
Benefity
- Je nabízena účast ve vlastním kapitálu společnosti
- Společnost hradí 100 % zdravotního pojištění zaměstnance
- Společnost hradí 25 % zdravotního pojištění závislých osob
- Tři týdny placeného volna
- Nejméně 13 placených firemních svátků
- Je nabízen plán 401(k)
- Ve zbývajících dnech hybridního režimu je k dispozici práce na dálku