CommonAI CIC
CommonAI CIC
CommonAI CIC ist ein in Cambridge ansässiges Unternehmen von gemeinschaftlichem Interesse und eine gemeinnützige Mitgliederorganisation, die an der sicheren und verantwortungsvollen Entwicklung grundlegender KI-Technologien arbeitet. Das kollaborative Engineering-Modell verbindet KI-Start-ups, etablierte Unternehmen, Organisationen des öffentlichen Sektors und akademische Teams, um Ressourcen gemeinsam zu nutzen, geistiges Eigentum zu entwickeln und Deep-Tech-KI durch betreute Programme voranzubringen, darunter Initiativen mit hohen Anforderungen an die Vertrauenswürdigkeit und das Scaling Inference Lab. Die Organisation unterstützt ihre Mitglieder mit Zugang zu einem geschützten Digital Commons, spezialisiertem Engineering- und Forschungswissen sowie kostengünstiger Recheninfrastruktur für betreute Open-Source- und Forschungsprojekte. Eine Tätigkeit bei CommonAI CIC bietet die Möglichkeit, an praxisnaher, kollaborativer Arbeit an der Schnittstelle von künstlicher Intelligenz, Forschung und Technologie im öffentlichen Interesse mitzuwirken.

Machine-Learning-Systemingenieur: Inferenz-Benchmarking

Entwickeln Sie reproduzierbare Benchmarks für den LLM-Betrieb im Rahmen der britischen KI-Infrastrukturforschung von CommonAI. Bewerten Sie Workloads mit langen Kontexten und agentischen Anwendungen auf physischen Systemen und in Simulationen.

Beschreibung

  • Erstellen und pflegen Sie reproduzierbare LLM-Serving-Workloads, Konfigurationen und Benchmarking-Tools
  • Entwickeln Sie Workloads mit langen Kontexten und agentischen Anwendungen mithilfe geeigneter vorhandener Software
  • Charakterisieren Sie Anfragemuster, Prompt- und Ausgabelängen, Caching, Batching, Tool-Nutzung und Anfrageabhängigkeiten
  • Legen Sie Leistungskennzahlen zusammen mit Anforderungen an Anwendungsqualität und Service fest
  • Arbeiten Sie mit Messtechnik-Ingenieuren zusammen, um Workloads auf physischen Systemen zu reproduzieren
  • Arbeiten Sie mit Simulator-Ingenieuren zusammen, um Workloads abzubilden und dabei wichtige Verhaltensweisen und Abhängigkeiten zu erhalten
  • Bewerten Sie, wie Änderungen an Workloads und Serving-Konfigurationen die Schlussfolgerungen beeinflussen
  • Halten Sie Benchmarks auf dem neuesten Stand, wenn sich Inferenztechnologie und Workloads weiterentwickeln
  • Dokumentieren Sie Datensätze, Modell- und Softwareversionen, Konfigurationen, Herkunft und zulässige Nutzungen
  • Vergleichen Sie die Workload-Leistung auf verschiedenen Systemen anhand vereinbarter Anforderungen an Anwendungsqualität und Service
  • Helfen Sie Ingenieuren und Investoren, Infrastrukturentscheidungen für bestimmte Anwendungen zu verstehen

Anforderungen

  • Erfahrung mit dem Aufbau oder der Bewertung von Machine-Learning-Systemen, Inferenzdiensten, Leistungsbenchmarks oder ähnlichen workloadorientierten Systemen
  • Ausgeprägte praktische Softwarekenntnisse für die Entwicklung zuverlässiger Benchmarking-Tools, die Analyse von Ergebnissen und die Fehlersuche bei Wechselwirkungen zwischen Anwendungen und Infrastruktur
  • Verständnis von LLM-Inferenz und Interesse daran, wie Serving-Entscheidungen Leistung und Ausgabequalität beeinflussen
  • Sorgfalt bei der Gestaltung reproduzierbarer Vergleiche und der Interpretation von Ergebnissen anhand festgelegter Anwendungsanforderungen
  • Praktische Erfahrung mit KI-Coding-Agenten sowie gutes Urteilsvermögen bei der Validierung von generiertem Code, Datentransformationen und Evaluierungen
  • Erfahrung mit vLLM, SGLang oder ähnlicher Serving-Software, Workloads mit langen Kontexten, agentischen Anwendungen, Trace-Analysen oder Qualitätsbewertungen ist von Vorteil
  • Fähigkeit, mit LLM-Serving zu arbeiten; andere Formen der Inferenz können später ebenfalls berücksichtigt werden
  • Ein einschlägiges weiterführendes Studium ist hilfreich, wichtiger sind jedoch Erfahrung und Arbeitsqualität
  • Sie müssen im Vereinigten Königreich wohnen oder nach individueller Vereinbarung für die hybride Arbeit in Cambridge vor Ort sein

Zusatzleistungen

  • Wettbewerbsfähiges Gehaltspaket mit Altersvorsorge und Zusatzleistungen
  • Möglichkeiten zur beruflichen Weiterentwicklung
  • Kontakte zu einflussreichen Persönlichkeiten aus Technologie und Wissenschaft
  • Umfangreiches Budget für Tools, darunter führende Modelle und Coding-Agenten
  • Kooperatives und unterstützendes Arbeitsumfeld
  • Möglichkeit, einen wichtigen Beitrag in einer wachsenden Organisation zu leisten
  • Lebendiges Büro in der Nähe des Bahnhofs Cambridge
  • Hybride Arbeit mit individuell vereinbarter Anwesenheit in Cambridge
  • Möglichkeiten für unbefristete, Teilzeit- und Beratungsverhältnisse
  • Flexibler Starttermin
  • Inklusives und vielfältiges Arbeitsumfeld

Ähnliche Stellen

CommonAI CIC

Senior Technical Lead für KI-Systemsimulation

CommonAI CIC

Leite die Entwicklung eines Simulators, der KI-Workloads, Hardwaremodelle und physische Messungen miteinander verbindet. Unterstütze CommonAI dabei, neue Infrastrukturen für gemeinwohlorientierte Investitionen im Vereinigten Königreich zu bewerten.

Öffnen
CommonAI CIC

Performance Engineer für KI-Infrastruktursysteme

CommonAI CIC

Entwickle reproduzierbare Experimente und Messwerkzeuge für die KI-Infrastruktursimulationen von CommonAI. Bewerte Hardware und die Performance von LLM-Serving-Systemen, um Investitionsentscheidungen im Vereinigten Königreich zu unterstützen.

Öffnen
Aurora Energy Research

Senior KI-Softwareentwickler

Aurora Energy Research

Leite die Entwicklung autonomer LLM-Systeme, die Entscheidungen am Energiemarkt unterstützen, bei Aurora Energy Research, deren Cloud-Software Stromnetze erfasst und modelliert. Führe Teams und bringe agentische Systeme von ersten Nutzergesprächen bis in den Produktivbetrieb.

Öffnen
Hiscox

Machine-Learning-Ingenieur bei Hiscox (hybrid, Vereinigtes Königreich)

Hiscox

Entwickle skalierbare Machine-Learning- und generative-KI-Lösungen für Hiscox’ spezialisiertes Versicherungsgeschäft. Automatisiere Modellbereitstellungen über Azure, Databricks, Kubernetes und CI/CD-Workflows.

Öffnen