51 – 200 Pracownicy
Dostępne informacje o profilu wskazują, że firma Normal Computing została założona w 2022 roku, ale nie opisują jej produktów, usług, branży ani kontekstu rekrutacyjnego. Aby przygotować przydatny opis dla osób poszukujących pracy, potrzebne są dodatkowe informacje o firmie.
Inżynier badawczy algorytmów dla sprzętowego wnioskowania dużych modeli językowych
Opracowuj algorytmy wnioskowania dużych modeli językowych dla sprzętu AI z obliczeniami w pamięci firmy Normal Computing. Współpracuj z zespołami sprzętowymi i architektonicznymi przy tworzeniu metod numerycznych, testów i prototypów.
Opis
- Opracowuj algorytmy dla zadań wnioskowania dużych modeli językowych na sprzęcie z obliczeniami w pamięci.
- Współpracuj z zespołami sprzętowymi i architektonicznymi przy wspólnym projektowaniu oprogramowania i sprzętu.
- Twórz metody numeryczne wykorzystujące szum termiczny i dynamikę analogową.
- Buduj systemy oceny i testy porównawcze dla symulacji oraz fizycznego sprzętu.
- Przekładaj obserwacje dotyczące obciążeń modeli na ograniczenia i możliwości projektowania sprzętu.
- Prototypuj i udoskonalaj algorytmy w miarę przechodzenia sprzętu od symulacji do układów krzemowych.
- Poprawiaj wydajność zarówno na poziomie bramek logicznych, jak i algorytmów.
- Testuj algorytmy za pomocą symulatorów, prototypów FPGA oraz układów krzemowych, gdy będą dostępne.
Wymagania
- Dobra znajomość wnioskowania dużych modeli, w tym mechanizmów uwagi, pamięci podręcznej KV, dekodowania długiego kontekstu i ograniczeń przepustowości pamięci.
- Doświadczenie w usprawnianiu wnioskowania za pomocą takich technik jak kwantyzacja, rzadkość, łączenie kerneli lub oszczędne pamięciowo mechanizmy uwagi.
- Znajomość systemów stochastycznych, metod probabilistycznych, analizy numerycznej lub obliczeń analogowych.
- Doświadczenie we wdrażaniu algorytmów blisko sprzętu, a nie wyłącznie z użyciem wysokopoziomowych frameworków.
- Umiejętność rozumowania od podstaw na temat nowych platform obliczeniowych.
- Udokumentowana zdolność doprowadzania pomysłów od teorii do wdrożenia na rzeczywistym sprzęcie.
- Bardzo dobra znajomość Pythona i co najmniej jednego języka programowania systemowego.
- Umiejętność współpracy z zespołami sprzętowymi, architektonicznymi i programistycznymi.
- Doktorat z uczenia maszynowego, matematyki stosowanej, fizyki, elektrotechniki lub pokrewnej dziedziny będzie dodatkowym atutem.
- Doświadczenie z systemami analogowymi lub mieszanymi sygnałowo, obliczeniami w pamięci albo architekturami innymi niż von Neumanna będzie dodatkowym atutem.
- Doświadczenie w pracy nad sprzętem, który był wciąż rozwijany w chwili dołączenia do zespołu, będzie dodatkowym atutem.
- Publikacje lub wkład w projekty open source dotyczące wydajnego wnioskowania, algorytmów stochastycznych lub nowych metod obliczeniowych będą dodatkowym atutem.
Benefity
- Integracyjne miejsce pracy, które ceni różnorodność.
- Racjonalne usprawnienia dla osób z niepełnosprawnościami.
- Ochrona zasady równych szans w zatrudnieniu.
Powiązane oferty pracy
Nie znaleziono ofert pracy
Spróbuj zmienić lub wyczyścić filtry, aby znaleźć więcej możliwości.