CommonAI CIC
CommonAI CIC
CommonAI CIC er en Cambridge-baseret virksomhed af typen community interest company og en nonprofit-medlemsorganisation, der arbejder for en sikker og ansvarlig udvikling af grundlæggende AI-teknologier. Gennem sin samarbejdsorienterede ingeniørmodel forbinder organisationen AI-startups, etablerede virksomheder, offentlige organisationer og akademiske teams for at dele ressourcer, udvikle immaterielle rettigheder og fremme deeptech-AI gennem styrede programmer, herunder initiativer med høje krav til sikkerhed og Scaling Inference Lab. Organisationen støtter medlemmerne med adgang til et beskyttet Digital Commons, specialiseret ingeniør- og forskningsekspertise samt omkostningseffektiv computerinfrastruktur til styrede open source- og forskningsprojekter. Et job hos CommonAI CIC giver mulighed for at bidrage til praktisk, samarbejdsorienteret arbejde i krydsfeltet mellem kunstig intelligens, forskning og teknologi til gavn for samfundet.

Ingeniør i maskinlæringssystemer, benchmarking af inferens

Byg reproducerbare benchmarks for drift af LLM'er som led i CommonAI's forskning i AI-infrastruktur i Storbritannien. Evaluer arbejdsbelastninger med lang kontekst og agentbaserede forløb på fysiske systemer og i simuleringer.

Beskrivelse

  • Skabe og vedligeholde reproducerbare arbejdsbelastninger, konfigurationer og benchmarkingværktøjer til drift af LLM'er
  • Opbygge arbejdsbelastninger med lang kontekst og agentbaserede forløb ved hjælp af egnet eksisterende software
  • Karakterisere anmodningsmønstre, prompt- og outputlængder, caching, batching, værktøjsbrug og afhængigheder mellem anmodninger
  • Fastlægge præstationsmål sammen med krav til applikationskvalitet og tjenester
  • Samarbejde med måleingeniører om at genskabe arbejdsbelastninger på fysiske systemer
  • Samarbejde med simulatoringeniører om at repræsentere arbejdsbelastninger og samtidig bevare vigtige adfærdsmønstre og afhængigheder
  • Vurdere, hvordan ændringer i arbejdsbelastninger og konfigurationer for drift påvirker konklusionerne
  • Holde benchmarks opdaterede, efterhånden som inferensteknologi og arbejdsbelastninger ændrer sig
  • Registrere datasæt, model- og softwareversioner, konfigurationer, proveniens og tilladte anvendelser
  • Sammenligne arbejdsbelastningers ydeevne på tværs af systemer ud fra aftalte krav til applikationskvalitet og tjenester
  • Hjælpe ingeniører og investorer med at forstå infrastrukturvalg til specifikke applikationer

Krav

  • Erfaring med at bygge eller evaluere maskinlæringssystemer, inferenstjenester, præstationsbenchmarks eller lignende systemer drevet af arbejdsbelastninger
  • Stærke praktiske softwarefærdigheder til at bygge pålidelige benchmarkingværktøjer, analysere resultater og fejlfinde samspillet mellem applikation og infrastruktur
  • Forståelse for LLM-inferens og interesse for, hvordan valg af driftsløsning påvirker ydeevne og outputkvalitet
  • Omhyggelighed i udformningen af reproducerbare sammenligninger og fortolkningen af resultater i forhold til angivne applikationskrav
  • Praktisk erfaring med AI-kodeagenter og sund dømmekraft ved validering af genereret kode, datatransformationer og evalueringer
  • Erfaring med vLLM, SGLang eller lignende driftssoftware, arbejdsbelastninger med lang kontekst, agentbaserede applikationer, sporingsanalyse eller kvalitetsvurdering er en fordel
  • Evne til at arbejde med drift af LLM'er; andre former for inferens kan komme på tale senere
  • Relevant postgraduate uddannelse er en fordel, men erfaring og arbejdskvalitet vægter højere end kvalifikationer
  • Skal være baseret i Storbritannien eller møde op i Cambridge efter aftale som led i hybridarbejde

Fordele

  • Konkurrencedygtig lønpakke med pension og personalegoder
  • Muligheder for faglig udvikling
  • Netværk med indflydelsesrige personer inden for teknologi og akademia
  • Betydeligt værktøjsbudget til avancerede modeller og kodeagenter
  • Samarbejdsorienteret og støttende arbejdsplads
  • Mulighed for at yde et væsentligt bidrag i en voksende organisation
  • Livligt kontor nær Cambridge togstation
  • Hybridarbejde med fremmøde i Cambridge efter individuel aftale
  • Fastansættelse, deltidsarbejde og konsulentordninger tilbydes
  • Fleksibel startdato
  • Inkluderende og mangfoldig arbejdsplads

Relaterede job

Aurora Energy Research

Senior softwareingeniør inden for AI

Aurora Energy Research

Led udviklingen af autonome LLM-systemer, der understøtter beslutninger på energimarkedet hos Aurora Energy Research, hvis cloudsoftware følger og modellerer elnet. Led teams, og lever agentsystemer fra de første brugersamtaler til produktion.

Åbn