LogoFresh Jobs Ahead
Aleph Alpha
Aleph Alpha
51 – 200 Mitarbeitende
B2BKünstliche Intelligenz
Aleph Alpha ist ein Unternehmen für Forschung und Anwendungen im Bereich der künstlichen Intelligenz, das groß angelegte Modelle für Sprache, Bilddaten und strategisches Denken entwickelt. Das Unternehmen mit Sitz in Heidelberg konzentriert sich darauf, fortschrittliche KI-Forschung in einsatzfähige Systeme zu überführen und zugleich Europas digitale Souveränität zu stärken. Seine Arbeit richtet sich an geschäftliche und organisatorische Anwendungsfälle im B2B-Technologiesektor.
LinkedIn
Stellen im Unternehmen

Senior AI Researcher für das Pre-Training von Foundation Models — Aleph Alpha, Heidelberg

Leite Architektur- und Pre-Training-Arbeiten im großen Maßstab für Aleph Alphas europäische Foundation Models und gestalte Trainingsmethoden für Tausende GPUs. Entwickle und verfeinere PyTorch-Trainingsrezepte im hybriden Team in Heidelberg.

DEDeutschlandHybridVollzeitSeniorErforderliche Sprache: EnglischKI-ForschungswissenschaftlerMachine-Learning-Ingenieur
PythonPyTorchVerteilte Systeme

Beschreibung

  • Entwickle Architekturen und Trainingsmethoden für Aleph Alphas nächste Generation von Foundation Models.
  • Verantworte zentrale Bestandteile der Trainingsrezepte, darunter Optimierer, Zeitpläne und Initialisierung.
  • Entwickle Verbesserungen an PyTorch-Architekturen, die Konvergenz, Stabilität und Trainingseffizienz erhöhen.
  • Etabliere Skalierungsgesetze für Hyperparameter und Methoden zur Skalierung von Trainingsläufen.
  • Führe kleine Proxy-Experimente durch, um das Verhalten auf Tausenden GPUs vorherzusagen und Trainingsrisiken zu senken.
  • Diagnostiziere Konvergenzprobleme, darunter Loss-Spitzen und Divergenz.
  • Behebe Fehler beim verteilten Training, etwa Kommunikationsengpässe, Race Conditions und Synchronisierungsfehler.
  • Arbeite mit den Teams für Compute Performance, Daten, Evaluation und Post-Training an der gemeinsamen Entwicklung von Systemen und Modellen.
  • Leite aus mathematischen Analysen und experimentellen Ergebnissen fundierte Trainingsentscheidungen ab.
  • Liefere produktionsreifen Code, der Modellqualität, Zuverlässigkeit der Trainingsläufe und Effizienz verbessert.

Anforderungen

  • Sehr gute Python-Kenntnisse und umfassende Vertrautheit mit PyTorch-Trainingsabläufen.
  • Nachweisliche Erfolge in der Machine-Learning-Forschung und Softwareentwicklung, belegt durch veröffentlichte Modelle, einflussreiche Open-Source-Arbeit oder Publikationen.
  • Fundierte mathematische Kenntnisse und die Fähigkeit, Optimierung, Skalierungsverhalten und Trainingsdynamik formal zu durchdringen.
  • Umfassende Kenntnisse der Trainingsdynamik von Transformern, der Optimierung und großer verteilter Trainingsläufe.
  • Fähigkeit, gründliche Experimente zu entwerfen und ihre Ergebnisse für fundierte Trainingsentscheidungen zu nutzen.
  • Praktische Erfahrung mit dem Pre-Training großer Modelle, etwa ab 7B Parametern, auf umfangreicher Infrastruktur, zum Beispiel GPU-Clustern mit mindestens 100 GPUs.
  • Solide Softwareentwicklungspraxis, einschließlich wartbarem, gut getestetem Code und reproduzierbaren Experimenten.
  • Fähigkeit, komplexe Architekturen effizient und zuverlässig zu implementieren sowie Modellcode, Trainingsverhalten und verteilte Systeme zu debuggen.
  • Klare Kommunikation und effektive teamübergreifende Zusammenarbeit.
  • Berechtigung, in Deutschland zu arbeiten, und Bereitschaft zur regelmäßigen Zusammenarbeit vor Ort in Heidelberg.
  • Von Vorteil: Erfahrung mit dem Training von LLMs oder multimodalen Modellen auf großen GPU-Clustern mit verteilten Frameworks wie Megatron-LM, DeepSpeed oder torchtitan.
  • Von Vorteil: Vertrautheit mit Skalierungsgesetzen, der Übertragung von Hyperparametern oder der Prognose des Trainingsverhaltens im großen Maßstab anhand von Proxy-Läufen.
  • Von Vorteil: Erfahrung mit dem Profiling verteilter Jobs und der Diagnose von Trainingsanomalien.
  • Von Vorteil: Erfahrung mit sparsamen Trainingsmethoden wie Mixture-of-Experts.
  • Von Vorteil: Publikationen in führenden Fachzeitschriften oder auf führenden Konferenzen, einflussreiche Open-Source-Beiträge oder bedeutende veröffentlichte technische Arbeit.

Zusatzleistungen

  • 30 Tage bezahlter Jahresurlaub.
  • Zugang zu Fitness- und Wellnessangeboten über Wellhub.
  • Unterstützung für die mentale Gesundheit über nilo.health.
  • Deutlich bezuschusste betriebliche Altersvorsorge.
  • Bezuschusstes Deutschlandticket.
  • Budget für zusätzliche technische Ausstattung.
  • Flexible Arbeitszeiten.
  • Hybrides Arbeitsmodell.
  • JobRad®-Fahrradleasing.

Ähnliche Stellen

Lifen

Leitung Klinischer Betrieb, RWD- und RWE-Datenmanagement

Lifen
51 – 200 Mitarbeitende
GesundheitswesenKünstliche IntelligenzSaaS
FRFrankreich
65.000 € – 75.000 € / Jahr
HybridVollzeitLeadErforderliche Sprache: FranzösischKlinischer Betrieb
Flux

Leite den klinischen Betrieb, die Erstellung von Real-World-Datenkohorten und die kontinuierliche Prozessverbesserung. Skaliere die strukturierte Bearbeitung von Patientenfällen für die klinischen Forschungsdatenlösungen von Lifen.

Öffnen
GSK

Direktor:in für klinische Abläufe und Asset-Verantwortung

GSK
Sponsor für H1B-VisumFertigungGesundheitswesenPharmazeutika
GBVereinigtes Königreich
81.750 € – 136.250 € / Jahr
HybridVollzeitSeniorErforderliche Sprache: EnglischKlinischer Betrieb
Google Cloud Platform

Leiten Sie die Strategie und Umsetzung klinischer Abläufe für Impfstoffe und Arzneimittel über den gesamten Lebenszyklus eines Assets hinweg. Verantworten Sie Planung, Governance, Dienstleister, Risiken und Inspektionsbereitschaft.

Öffnen
Philips

Manager für klinische Studien, Medizinprodukte – Remote in Pennsylvania

Philips
Sponsor für H1B-VisumBiotechnologieGesundheitswesenKrankenversicherung
USVereinigte StaatenPAPennsylvania
102.000 $ – 162.000 $ / Jahr
RemoteVollzeitMittlere StufeSeniorErforderliche Sprache: EnglischKlinische Forschung
Google Cloud Platform

Leiten Sie regelkonforme klinische Studien zu Medizinprodukten für Philips und koordinieren Sie Prüfzentren, Dokumentation, Datenqualität, Budgets und regulatorische Bereitschaft. Für diese Remote-Position müssen Sie in der Nähe von Pittsburgh, Pennsylvania, wohnen.

Öffnen
University of Wisconsin-Madison

Koordinator/in für klinische Abläufe in der Notfallmedizin

University of Wisconsin-Madison
BildungRegierung
USVereinigte StaatenWIWisconsin
60.000 $ / Jahr
HybridVollzeitMittlere StufeSeniorErforderliche Sprache: EnglischKlinischer Betrieb

Koordinieren Sie Dienstplanung, Qualitätsinitiativen, Berichterstattung und Verwaltungsabläufe für die Notfallmedizin an der UW–Madison. Unterstützen Sie die Notfallversorgungsteams, indem Sie Ressourcen organisieren, Projekte verfolgen und die Abläufe der Abteilung koordinieren.

Öffnen
inDrive

Kundenservice-Spezialist – inDrive, Kuala Lumpur

inDrive
1.001 – 5.000 Mitarbeitende
LogistikMarketingReisen
MYMalaysiaHybridVollzeitJuniorErforderliche Sprache: EnglischErforderliche Sprache: IndonesischErforderliche Sprache: MalaiischKundensupport

Unterstützen Sie Kundinnen und Kunden der Mobilitätsplattform inDrive per Chat, E-Mail und gelegentlich telefonisch. Lösen Sie Serviceprobleme, bearbeiten Sie Rückerstattungen und tragen Sie zu Kundenzufriedenheit und Qualitätszielen bei.

Öffnen