A Beacon Venture Capital a Thaiföld egyik vezető kereskedelmi bankja, a Kasikornbank PLC teljes tulajdonú vállalati kockázatitőke-ága. A 2016-ban alapított alap stratégiai befektetéseket eszközöl technológiai startupokba a korai fázistól a növekedési szakaszig, elsősorban a fintech területén. Befektetési érdeklődése kiterjed a fogyasztói életmóddal kapcsolatos vállalkozásokra, valamint olyan mélytechnológiai területekre is, mint a mesterséges intelligencia és a vállalati IT. A Beacon Venture Capital 30 millió dolláros tőkével indult, amely 2018-ra 135 millió dollárra nőtt.
Senior szoftvermérnök, mesterséges intelligencia és LLM
Éles LLM-képességeket épít és üzemeltet a Beacon AI repülésbiztonsági platformjához. Vezeti a visszakeresést, az eszközhívást, az értékelést és a megbízható szolgáltatásnyújtást.
Egyesült Államok
Kalifornia173 000 $ – 225 000 $ / év
HibridTeljes munkaidőSzeniorKötelező Nyelv: angolGépi tanulási mérnökMI-mérnökLeírás
- Visszakereséssel támogatott generálási és eszközhívási munkafolyamatok fejlesztése
- Ellenőrzött JSON- és séma által korlátozott kimenetek előállítása újrapróbálkozással és tartalékkezeléssel
- A függvényhívás összekapcsolása belső eszközökkel, kereséssel, útválasztással és adatszolgáltatásokkal
- Meghatározott szerződésekkel, streameléssel és visszatartással rendelkező Python- vagy TypeScript-API-k és feldolgozók fejlesztése
- Gyorsítótárazás, kérésszabás, prompt-sablonok és kontextuscsomagolás használata a késleltetés és a költségek kezelésére
- Alapmodell-szolgáltatások integrálása az AWS Bedrockból, az OpenAI-tól, az Anthropictól és saját üzemeltetésű végpontokról
- Dokumentumokhoz, idősorokhoz és multimédiához szükséges darabolási, beágyazási és indexelési stratégiák fejlesztésének támogatása
- Vektoros adatbázisok, köztük az OpenSearch, a pgvector és a Pinecone kiválasztása és optimalizálása
- A tudásbázisok szinkronban tartása az S3-mal, az Aurorával, a DynamoDB-vel és külső adatforrásokkal
- Offline értékelések és arany standard adatkészletek fejlesztése promptokhoz, visszakeresőkhöz és eszközökhöz
- A feladatsikert, a hallucinációs arányt, a visszakeresés pontosságát és visszahívását, a p95 késleltetést, valamint a kérésenkénti költséget lefedő éles metrikák meghatározása
- A/B-tesztek végrehajtása, valamint kontrollált prompt- és verziókiadások kezelése kanári telepítésekkel
- Tartalmi és szabályzati védelmek, személyes adatok észlelése és maszkolása, hozzáférés-vezérlés, valamint auditnaplók megvalósítása
- Emberi felülvizsgálati munkafolyamatok létrehozása érzékeny műveletekhez
- A modellhívások műszerezése követéssel, naplózással és irányítópultokkal a tokenhasználat, a hibák és a telítettség nyomon követésére
- A visszakeresési rendszerekben, promptokban, eszközökben és modellkínálókban felmerülő problémák kivizsgálása
- Együttműködés a termék-, infrastruktúra-, ML- és biztonsági csapatokkal megbízható repülési rendszerek szállítása érdekében
- Felhasználói LLM-képességek létrehozása a Beacon AI platformjához, hogy a repülés biztonságosabbá, hatékonyabbá és fejlettebbé váljon
Követelmények
- 5–8 év tapasztalat, beleértve éles ML- vagy LLM-rendszerek szállításában szerzett tapasztalatot
- Bizonyított tapasztalat felhasználók számára készült LLM-funkciók bevezetésében és adatok alapján történő továbbfejlesztésében
- Erős éles szoftverfejlesztési, tesztelési és dokumentációs készségek
- A beágyazások, a darabolás, a vektoros keresés kompromisszumai és a függvényhívás gyakorlati ismerete
- Tapasztalat értékelések létrehozásában, sikermutatók meghatározásában és bizonyítékokon alapuló iterációban
- Képesség a p95 késleltetés figyelésére, az SLA-k teljesítésére és a költségek csökkentésére a minőség megőrzése mellett
- Képesség a funkciók teljes körű felelősségvállalására a tervezéstől az élesítésig, korlátozott felügyelet mellett
- A Bedrock, az OpenSearch Serverless, a pgvector, a Pinecone vagy a Weaviate ismerete előnyt jelent
- A promptverziózás, a védelmi korlátok és a modellkínálók közötti útválasztás tapasztalata előnyt jelent
- A multimodális adatokkal, például idősorokkal vagy videóval szerzett tapasztalat előnyt jelent
- A GPU-s következtetés, a Triton vagy a TensorRT-LLM ismerete előnyt jelent
- A repülésben vagy más biztonságkritikus iparágban szerzett tapasztalat előnyt jelent
- A CI/CD, az infrastruktúra kódként és a biztonságos titokkezelés gyakorlati ismerete előnyt jelent
- USA-beli személynek kell minősülnie
- Jogilag jogosultnak kell lennie az Egyesült Államokban való munkavégzésre
- Vízumszponzoráció és vízumátvitel nem érhető el
- Minden munkát az Egyesült Államok területén kell végezni
- A San Francisco-öböl térségében kell élnie, vagy hajlandónak kell lennie oda költözni
- Hetente legalább három napon személyesen kell dolgoznia San Carlosban, Kaliforniában
- Teljes munkaidős munkavégzésre alkalmasnak kell lennie
Juttatások
- Az ajánlat részvényjuttatást is tartalmaz
- A vállalat a munkavállalói egészségbiztosítási díjak 100%-át fedezi
- A vállalat az eltartottak egészségbiztosítási díjainak 25%-át fedezi
- Három hét fizetett szabadság
- Legalább 13 fizetett vállalati ünnepnap
- 401(k) nyugdíjprogram érhető el
- Rugalmas távmunka a hibrid munkarend fennmaradó napjain