51 – 200 Zamestnanci
Dostupné informácie o profile uvádzajú, že spoločnosť Normal Computing bola založená v roku 2022, ale neobsahujú údaje o jej produktoch, službách, odvetví ani kontexte náboru. Na vytvorenie užitočného prehľadu pre uchádzačov o zamestnanie sú potrebné ďalšie informácie o spoločnosti.
Výskumný inžinier – algoritmy pre hardvérovú inferenciu LLM
Vyvíjajte algoritmy na inferenciu LLM pre pamäťový AI hardvér spoločnosti Normal Computing. Spolupracujte s tímami hardvéru a architektúry na návrhu numerických metód, benchmarkov a prototypov.
Popis
- Vyvíjajte algoritmy pre inferenčné úlohy LLM na pamäťovom hardvéri.
- Spolupracujte s tímami hardvéru a architektúry na spoločnom návrhu softvéru a hardvéru.
- Vytvárajte numerické metódy využívajúce tepelný šum a analógovú dynamiku.
- Budujte evaluačné rámce a benchmarky pre simulácie aj fyzický hardvér.
- Premieňajte poznatky o záťaži modelov na obmedzenia a možnosti návrhu hardvéru.
- Prototypujte a dolaďujte algoritmy podľa toho, ako hardvér postupuje od simulácie k čipu.
- Zlepšujte výkon na úrovni hradiel aj algoritmov.
- Testujte algoritmy pomocou simulátorov, prototypov FPGA a čipov, keď budú dostupné.
Požiadavky
- Dobrá znalosť inferencie rozsiahlych modelov vrátane mechanizmov pozornosti, KV cache, dekódovania s dlhým kontextom a limitov priepustnosti pamäte.
- Skúsenosti so zlepšovaním inferencie pomocou techník, ako sú kvantizácia, riedkosť, spájanie jadier alebo pamäťovo úsporná pozornosť.
- Znalosť stochastických systémov, pravdepodobnostných metód, numerickej analýzy alebo analógových výpočtov.
- Skúsenosti s implementáciou algoritmov blízko hardvéru, nielen s využívaním vysokoúrovňových frameworkov.
- Schopnosť uvažovať od základných princípov o nových výpočtových platformách.
- Preukázaná schopnosť doviesť nápady od teórie až po implementáciu na skutočnom hardvéri.
- Dobrá znalosť jazyka Python a aspoň jedného systémového programovacieho jazyka.
- Schopnosť spolupracovať s tímami hardvéru, architektúry a softvéru.
- Doktorát v oblasti strojového učenia, aplikovanej matematiky, fyziky, elektrotechniky alebo príbuznom odbore je výhodou.
- Skúsenosti s analógovými alebo zmiešanými signálovými systémami, výpočtami v pamäti alebo architektúrami odlišnými od von Neumannovej architektúry sú výhodou.
- Skúsenosti s prácou na hardvéri, ktorý sa po nástupe ešte vyvíjal, sú výhodou.
- Publikácie alebo príspevky k open-source projektom v oblasti efektívnej inferencie, stochastických algoritmov alebo nových výpočtových technológií sú výhodou.
Benefity
- Inkluzívne pracovisko so záväzkom podporovať rozmanitosť.
- Primerané úpravy pracovných podmienok pre ľudí so zdravotným postihnutím.
- Záruky rovnakých pracovných príležitostí.
Súvisiace pracovné ponuky
Nenašli sa žiadne pracovné ponuky
Skúste upraviť alebo vymazať filtre a nájsť ďalšie príležitosti.