Cerebras opracowuje sprzęt AI w technologii Wafer-Scale oraz zintegrowane oprogramowanie do wysokowydajnego trenowania i wnioskowania modeli. Jej Wafer-Scale Engine zasila system CS-3 oraz Cerebras Inference Cloud, który obsługuje przepływy pracy zgodne z OpenAI API i wdrażanie w środowiskach lokalnych, chmurowych oraz brzegowych. Platforma firmy jest przeznaczona do zastosowań obejmujących obsługę modeli, dostrajanie, trening wstępny, działanie agentów AI w czasie rzeczywistym, genomikę, odkrywanie leków, cyberbezpieczeństwo i wyszukiwanie korporacyjne. Cerebras łączy wyspecjalizowane układy, systemy i oprogramowanie dla organizacji tworzących i obsługujących wymagające obciążenia związane ze sztuczną inteligencją; firma zatrudnia od 501 do 1 000 pracowników.
Inżynier ds. mapowania algorytmów uczenia maszynowego i wydajności, Core ML
Mapuj algorytmy uczenia i wnioskowania maszynowego na architekturę układów Cerebras AI. Modeluj wąskie gardła wydajności, przeprowadzaj testy porównawcze systemów i wspieraj współprojektowanie sprzętu oraz oprogramowania.
Opis
- Tworzenie analitycznych i empirycznych modeli wydajności dla zaawansowanych algorytmów uczenia i wnioskowania ML
- Ocena zachowania asymptotycznego oraz kompromisów algorytmicznych w zależności od rozmiaru modelu, długości sekwencji, rozmiaru partii, zrównoleglenia i skali sprzętu
- Opracowywanie frontów Pareto obejmujących jakość modelu, opóźnienie, przepustowość, zajętość pamięci, komunikację i koszt obliczeń
- Tworzenie prototypowych implementacji i testów porównawczych dla Cerebras WSE wraz z odpowiednimi punktami odniesienia dla GPU i oprogramowania
- Badanie działania systemu w celu lokalizowania wąskich gardeł w jądrach, kompilatorze, środowisku uruchomieniowym, komunikacji i algorytmach
- Ocena nowych metod, takich jak równoległe generowanie tokenów, dekodowanie dyfuzyjne i spekulatywne, mechanizmy uwagi, rzadkość, mieszanka ekspertów, obliczenia niskiej precyzji i uczenie rozproszone
- Współpraca z zespołami badawczymi oraz zespołami jąder, kompilatora, środowiska uruchomieniowego, wnioskowania i architektury przy ustalaniu priorytetów implementacji i współprojektowania
- Tworzenie narzędzi i wizualizacji do prognozowania wydajności, analizowania pomiarów i porównywania kompromisów projektowych
- Prezentowanie wniosków, założeń, ograniczeń i rekomendacji w raportach technicznych, prezentacjach oraz podczas przeglądów projektowych
- Kształtowanie priorytetów badawczych Core ML, decyzji dotyczących implementacji oraz przyszłych możliwości sprzętu i oprogramowania
Wymagania
- Stopień licencjata, magistra lub doktora albo równoważne doświadczenie praktyczne w dziedzinie informatyki, inżynierii komputerowej, elektrotechniki, matematyki lub pokrewnej dyscypliny
- Dobra znajomość architektury komputerów, obliczeń równoległych i wydajności systemów
- Solidne rozumienie podstaw uczenia maszynowego i systemów ML
- Doświadczenie w analitycznym modelowaniu wydajności, analizie złożoności algorytmicznej, testach porównawczych lub symulacji systemów
- Udowodnione umiejętności analitycznego myślenia i rozwiązywania problemów
- Biegłość w Pythonie i praktyczna znajomość C++
- Doświadczenie w profilowaniu i debugowaniu wydajności systemów ML, HPC, CPU, GPU lub systemów opartych na akceleratorach
- Umiejętność łączenia analizy matematycznej, walidacji eksperymentalnej i praktycznych rekomendacji inżynierskich
- Mile widziane: doświadczenie w analizie roofline, pracy z symulatorami CPU lub GPU, optymalizacji jąder albo współprojektowaniu sprzętu i oprogramowania
- Mile widziane: znajomość CUDA, Triton, PyTorch, JAX lub systemów trenowania i wnioskowania LLM o otwartym kodzie źródłowym
- Mile widziane: znajomość wewnętrznej budowy transformerów, wariantów mechanizmów uwagi, strategii pamięci podręcznej KV, paralelizmu modeli, rzadkości, kwantyzacji i generowania równoległego
- Mile widziane: publikacje naukowe, patenty lub znaczący wkład w projekty open source dotyczące systemów ML, architektury komputerów lub efektywności obliczeniowej
- Mile widziane: doświadczenie w ocenie rozwiązań technologicznych dla przyszłych architektur sprzętu lub oprogramowania
Benefity
- Możliwość publikowania i udostępniania na otwartych licencjach zaawansowanych badań nad AI
- Praca z jednym z najszybszych superkomputerów AI na świecie
- Energia startupu połączona ze stabilnością zatrudnienia
- Prosta, niekorporacyjna kultura szanująca indywidualne przekonania
- Stałe możliwości nauki, rozwoju i wsparcia
- Zaangażowanie w tworzenie równego i różnorodnego miejsca pracy