OpenRouter
OpenRouter
OpenRouter er en platform for kunstig intelligens, der giver udviklere og teams en samlet måde at få adgang til og arbejde med store sprogmodeller fra forskellige udbydere. Modellkataloget omfatter muligheder som Mistral Small 3 og DeepSeek R1 Distill Qwen 32B og understøtter applikationer, hvor hastighed, nøjagtighed og fleksibelt modelvalg prioriteres. OpenRouter tilbyder også værktøjer til programmering og spiludvikling med mulige anvendelser inden for blandt andet marketing, finans og uddannelse.

Site Reliability Engineer, drift af AI-udbydere — OpenRouter (fjernarbejde, USA)

Drift pålidelighedssystemer for OpenRouters AI-udbydere med fokus på observerbarhed, failover og håndtering af hændelser. Automatiser kvalitetstjek af endpoints, kapacitetsstyring og klargøring til lancering.

Beskrivelse

  • Udvikl overvågning af udbydernes endpoints, og følg latenstid, gennemløb, fejl, oppetid og korrektheden af output.
  • Definér servicemål (SLO’er) for udbyderniveauer, og konfigurér handlingsrettede alarmer.
  • Forbedr registreringen af forringede endpoints, og koordinér automatisk trafikfailover med routingteamet.
  • Håndtér hændelser hos udbydere under vagt, fra triage og afhjælpning til partnerkommunikation, efteranalyser og opfølgning.
  • Udarbejd oversigter over udbydere og SLO-rapporter.
  • Yd teknisk eskaleringssupport ved problemer med udbyderendpoints.
  • Udvikl løbende canary-tests og evalueringer, der opdager ellers skjulte kvalitetsforringelser.
  • Automatisér driften af udbydere, herunder deaktivering af endpoints, kapacitetsændringer, udfasninger og justeringer af hastighedsgrænser.
  • Skab værktøjer til belastningstest af endpoints, så lanceringsparathed og indledende trafik kan vurderes.
  • Referér til chefen for udbyderdrift.

Krav

  • Mindst fire års erfaring med SRE, produktionsengineering eller infrastrukturroller med ansvar for kundevendte systemer med høj trafik.
  • Stærke kompetencer inden for observerbarhed, herunder målinger, tracing, logfiler, SLO’er, fejlbureauer og handlingsrettet alarmering.
  • Evner inden for softwareudvikling og en præference for at bygge værktøjer frem for at følge runbooks.
  • Erfaring med TypeScript og/eller Python.
  • Kendskab til fejlscenarier i distribuerede systemer, herunder timeouts, retries, backpressure og delvise nedbrud.
  • Evne til at lede hændelser roligt og kommunikere tydeligt med eksterne partnere under pres.
  • Forståelse af LLM-inferens eller lyst til at lære om streaming, værktøjskald, promptcaching, afvejninger mellem gennemløb og latenstid samt forskelle på udbyderes API’er.
  • Erfaring fra en inferensudbyder, et modellaboratorium, en GPU-cloud eller en virksomhed inden for API-gateways eller CDN er et plus.
  • Erfaring med TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP eller Vercel er et plus.
  • Baggrund inden for routing, load balancing eller trafikstyringssystemer er et plus.
  • Erfaring med evalueringer eller syntetisk overvågning af maskinlæringssystemer er et plus.

Relaterede job

Advocate Aurora Health

Praktikant inden for økonomi, regnskab og indtægtscyklus – fjernarbejde

Advocate Aurora Health

Bidrag til budgettering, regnskab, finansiel analyse og drift af indtægtscyklussen som praktikant hos Advocate Aurora Health. Hjælp med at automatisere Excel-processer og gennemgå økonomiske data og patientopkrævninger.

Åbn
Empower AI

Senior VoIP-ingeniør – Quantico, Virginia

Empower AI
501 – 1.000 Medarbejdere
ForsvarLogistikSundhedsvæsen

Led sikre Cisco-løsninger til samlet kommunikation på tværs af DoD's netværkssegmenter som led i Empower AI's føderale transformation og DCSA-kontrakt. Senior ingeniørstilling på arbejdsstedet med ansvar for missionskritiske tale- og samarbejdstjenester.

Åbn
Empower AI

Skiftleder for servicedesk (på arbejdsstedet, Virginia)

Empower AI
501 – 1.000 Medarbejdere
ForsvarLogistikSundhedsvæsen

Led Empower AI’s IT-support for offentlige myndigheder på Tier 0 og Tier I, og før tilsyn med servicedeskmedarbejdere på flere skift. Hav ansvar for serviceniveauer, kritiske hændelser, kvalitet og løbende forbedringer.

Åbn
Ausloans Finance Group

Fjernmægler inden for aktivfinansiering – Australien

Ausloans Finance Group
51 – 200 Medarbejdere
FinansFintechMarkedsplads

Opbyg en kundeportefølje, og lever finansieringsløsninger som mægler inden for aktivfinansiering hos Ausloans Finance Group, en teknologidrevet aggregator for bilfinansiering. Arbejd selvstændigt med støtte fra aggregatoren og fleksible muligheder for fjernarbejde.

Åbn