OpenRouter ir mākslīgā intelekta platforma, kas izstrādātājiem un komandām nodrošina vienotu veidu, kā piekļūt un strādāt ar dažādu pakalpojumu sniedzēju lielajiem valodas modeļiem. Tās modeļu katalogā ir, piemēram, Mistral Small 3 un DeepSeek R1 Distill Qwen 32B, kas atbalsta lietotnes, kurās svarīgs ātrums, precizitāte un elastīga modeļa izvēle. OpenRouter piedāvā arī programmēšanas un spēļu izstrādes rīkus, un to var izmantot tādās jomās kā mārketings, finanses un izglītība.
Inženierijas vadītājs, pakalpojumu sniedzēju ekosistēma — OpenRouter (attālināts darbs)
Vadiet OpenRouter pakalpojumu sniedzēju ekosistēmas inženierijas komandu un ārējo pakalpojumu sniedzēju partnerības. Pārvaldiet integrācijas, maršrutēšanu, novērtēšanu un multimodālās secināšanas iespējas uzņēmumu piekļuvei LLM.
Apraksts
- Vadiet un paplašiniet pakalpojumu sniedzēju ekosistēmas inženierijas komandu
- Pieņemiet darbā inženierus, definējiet ceļvedi, pārskatiet kodu, pārvaldiet incidentus un pārstāviet komandu
- Pārvaldiet pakalpojumu sniedzēju adapterus, galapunktu dzīves ciklus un maršrutēšanas sistēmas
- Esiet vadošo modeļu pakalpojumu sniedzēju tehniskais partneris
- Koordinējiet nulles dienas un slepenus produktu palaišanas pasākumus
- Sadarbojieties ar tirgū ieviešanas, biznesa attīstības un juridiskajām komandām, lai piesaistītu pakalpojumu sniedzējus
- Paplašiniet platformas iespējas attēlu, video, audio, iegulšanas, reāllaika un pakešu secināšanai
- Pārvaldiet novērtēšanas programmas un secināšanas kvalitāti
- Izmantojiet etalonu rezultātus un ražošanas telemetriju, lai pieņemtu maršrutēšanas lēmumus un sniegtu pakalpojumu sniedzējiem atsauksmes
- Atskaitieties inženierijas viceprezidentam
Prasības
- Vismaz četru gadu pieredze inženierijas vadībā
- Pieredze komandu veidošanā vai mērogošanā straujas izaugsmes laikā
- Lieliskas zināšanas par sadalītajām sistēmām, API dizainu un LLM secināšanu
- Izpratne par straumēšanu, rīku izsaukšanu, uzvedņu kešatmiņu, kvantēšanu un caurlaidspējas un latentuma kompromisiem
- Izpratne par pakalpojumu sniedzēju API atšķirībām un miljonu pieprasījumu maršrutēšanu starp neviendabīgiem galapunktiem
- Praktiska programmēšanas pieredze un AI atbalstītas izstrādes rīku pārzināšana
- Spēja sadarboties ārēji ar modeļu laboratorijām un inženierijas komandām
- Pieredze augstas veiktspējas inženieru piesaistē un noturēšanā
- Pierādīta iniciatīva un skaidra saziņa
- Pragmatiska pieeja darbam nelielās inženierijas organizācijās
- Vēlams: pieredze ar secināšanas pakalpojumu sniedzēju, modeļu laboratoriju, GPU mākoni vai vairākām LLM API
- Vēlams: pieredze ar TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP vai Vercel
- Vēlams: pieredze novērtēšanas, etalonmērījumu, maršrutēšanas vai slodzes balansēšanas sistēmās
- Vēlams: pieredze ar multimodālām API vai reāllaika un pakešu secināšanu
- Vēlams: pieredze piegādātāju drošības un atbilstības pārbaudēs, tostarp NDA, DPA un SOC 2
- Vēlams: pieredze OpenRouter izmantošanā vai AI infrastruktūras un izstrādātāju rīku blakusprojektu veidošanā
Priekšrocības
- Līdzdalība uzņēmuma kapitālā
- Attālināts darbs