Teadusinsener, LLM-järelduse algoritmid riistvarale
Tööta välja LLM-järelduse algoritme Normal Computingu mälusisese tehisintellekti riistvara jaoks. Tee riistvara- ja arhitektuuritiimidega koostööd arvutusmeetodite, võrdlustestide ja prototüüpide ühiseks kujundamiseks.
Kirjeldus
- Tööta välja algoritme LLM-järelduse koormustele mälusisesel riistvaral.
- Tee riistvara- ja arhitektuuritiimidega koostööd tarkvara ja riistvara ühiseks kujundamiseks.
- Loo arvutusmeetodeid, mis kasutavad termilist müra ja analoogdünaamikat.
- Loo hindamisraamistikke ja võrdlusteste simulatsioonide ning füüsilise riistvara jaoks.
- Muuda mudelite koormuste kohta saadud teadmised riistvara kujundamise piiranguteks ja võimalusteks.
- Loo prototüüpe ja täiusta algoritme, kui riistvara liigub simulatsioonist ränikiibini.
- Paranda jõudlust nii loogikavärava kui ka algoritmi tasandil.
- Testi algoritme simulaatorite, FPGA-prototüüpide ja kättesaadavaks muutudes ka ränikiibiga.
Nõuded
- Põhjalikud teadmised suurte mudelite järeldamisest, sealhulgas tähelepanumehhanismidest, KV-vahemälust, pika konteksti dekodeerimisest ja mäluribalaiuse piirangutest.
- Kogemus järeldamise tõhustamisel näiteks kvantimise, hõreda arvutuse, tuumade ühendamise või mälutõhusa tähelepanu abil.
- Stohhastiliste süsteemide, tõenäosuslike meetodite, numbrilise analüüsi või analoogarvutuse tundmine.
- Kogemus algoritmide juurutamisel riistvara lähedal, mitte ainult kõrgtaseme raamistikele toetudes.
- Oskus mõtestada uusi arvutusplatvorme algpõhimõtetest lähtudes.
- Tõendatud võime viia ideed teooriast tegeliku riistvarani juurutamiseni.
- Heal tasemel Python ja vähemalt ühe süsteemprogrammeerimiskeele valdamine.
- Oskus teha koostööd riistvara-, arhitektuuri- ja tarkvaratiimidega.
- Doktorikraad masinõppes, rakendusmatemaatikas, füüsikas, elektrotehnikas või sellega seotud valdkonnas tuleb kasuks.
- Kogemus analoog- või segasignaalisüsteemide, mälusisese arvutuse või von Neumanni arhitektuurist erinevate lahendustega tuleb kasuks.
- Kogemus töötamisel riistvaraga, mille arendus oli tööle asumise ajal veel pooleli, tuleb kasuks.
- Publikatsioonid või avatud lähtekoodiga panused tõhusa järeldamise, stohhastiliste algoritmide või uudsete arvutuslahenduste vallas tulevad kasuks.
Hüved
- Kaasav töökeskkond, mis väärtustab mitmekesisust.
- Puuetega inimestele võimaldatakse mõistlikke kohandusi.
- Kaitse võrdse tööalase kohtlemise põhimõtete alusel.
Seotud töökohad
Töökohti ei leitud
Rohkemate võimaluste leidmiseks proovige filtreid muuta või tühjendada.