51 – 200 Служители
Наличната информация в профила посочва, че компанията Normal Computing е основана през 2022 г., но не описва нейните продукти, услуги, бранш или контекст на наемане. Необходими са повече подробности за компанията, за да се представи полезен обзор за търсещите работа.
Изследователски инженер по алгоритми за хардуерно изпълнение на LLM
Разработвайте алгоритми за изпълнение на LLM върху AI хардуера с изчисления в паметта на Normal Computing. Работете с екипите по хардуер и архитектура за съвместно проектиране на числени методи, сравнителни тестове и прототипи.
Описание
- Разработвайте алгоритми за задачи по изпълнение на LLM върху хардуер с изчисления в паметта.
- Партнирайте си с екипите по хардуер и архитектура при съвместното проектиране на софтуер и хардуер.
- Създавайте числени методи, които използват топлинен шум и аналогова динамика.
- Изграждайте рамки за оценяване и сравнителни тестове за симулации и физически хардуер.
- Превръщайте наблюденията за натоварването на моделите в хардуерни проектни ограничения и възможности.
- Създавайте прототипи и усъвършенствайте алгоритми, докато хардуерът преминава от симулация към силициеви чипове.
- Подобрявайте производителността както на ниво логически елементи, така и на ниво алгоритми.
- Тествайте алгоритмите със симулатори, FPGA прототипи и силициеви чипове, когато станат достъпни.
Изисквания
- Задълбочени познания за изпълнението на големи модели, включително механизми за внимание, KV кеш, декодиране с дълъг контекст и ограниченията на пропускателната способност на паметта.
- Опит в подобряването на изпълнението чрез техники като квантизация, разреденост, сливане на ядра или икономично използване на паметта при внимание.
- Познания за стохастични системи, вероятностни методи, числен анализ или аналогови изчисления.
- Опит с внедряване на алгоритми близо до хардуера, а не само с високонивови рамки.
- Умение да се анализират нови изчислителни платформи, изхождайки от първите принципи.
- Доказана способност идеите да се развиват от теорията до реализация върху истински хардуер.
- Отлични умения по Python и владеене на поне един език за системно програмиране.
- Умение за сътрудничество с екипи по хардуер, архитектура и софтуер.
- Докторска степен по машинно обучение, приложна математика, физика, електроинженерство или сродна област е предимство.
- Опит с аналогови или смесени сигнални системи, изчисления в паметта или архитектури, различни от фон Нойман, е предимство.
- Опит с работа по хардуер, който все още е бил в процес на разработка при постъпването ви, е предимство.
- Публикации или принос към проекти с отворен код в областта на ефективното изпълнение, стохастичните алгоритми или новите изчислителни технологии са предимство.
Придобивки
- Приобщаваща работна среда с ангажимент към многообразието.
- Разумни условия и приспособления за хора с увреждания.
- Гаранции за равни възможности за заетост.
Свързани работни места
Няма намерени обяви за работа
Опитайте да промените или изчистите филтрите, за да намерите повече възможности.