Інженер-дослідник алгоритмів для апаратного забезпечення інференсу великих мовних моделей
Розробляйте алгоритми інференсу великих мовних моделей для внутрішньопам’ятного ШІ-обладнання Normal Computing. Співпрацюйте з командами апаратного забезпечення й архітектури над чисельними методами, тестами та прототипами.
Опис
- Розробляйте алгоритми для задач інференсу великих мовних моделей на внутрішньопам’ятному обладнанні.
- Співпрацюйте з командами апаратного забезпечення й архітектури над спільним проєктуванням програмного й апаратного забезпечення.
- Створюйте чисельні методи, що використовують тепловий шум та аналогову динаміку.
- Створюйте системи оцінювання й тести для симуляцій і фізичного обладнання.
- Перетворюйте висновки про робочі навантаження моделей на обмеження та можливості проєктування обладнання.
- Створюйте й удосконалюйте прототипи алгоритмів у міру переходу обладнання від симуляції до кремнієвих чипів.
- Підвищуйте продуктивність на рівні як логічних елементів, так і алгоритмів.
- Перевіряйте алгоритми за допомогою симуляторів, прототипів на ПЛІС і кремнієвих чипів у міру їх появи.
Вимоги
- Глибоке знання інференсу великих моделей, зокрема механізмів уваги, кешу KV, декодування довгого контексту й обмежень пропускної здатності пам’яті.
- Досвід прискорення інференсу за допомогою таких методів, як квантування, розрідженість, об’єднання ядер або ефективне використання пам’яті в механізмах уваги.
- Обізнаність зі стохастичними системами, імовірнісними методами, чисельним аналізом або аналоговими обчисленнями.
- Досвід реалізації алгоритмів на рівні, близькому до апаратного забезпечення, а не лише за допомогою високорівневих фреймворків.
- Уміння міркувати з перших принципів про нові обчислювальні платформи.
- Підтверджена здатність втілювати ідеї — від теорії до реалізації на реальному обладнанні.
- Впевнене володіння Python і щонайменше однією мовою системного програмування.
- Здатність співпрацювати з командами апаратного забезпечення, архітектури та програмного забезпечення.
- Докторський ступінь у галузі машинного навчання, прикладної математики, фізики, електротехніки або суміжній галузі буде перевагою.
- Досвід роботи з аналоговими або змішаними сигнальними системами, внутрішньопам’ятними обчисленнями чи архітектурами, відмінними від архітектури фон Неймана, буде перевагою.
- Досвід роботи з обладнанням, яке ще розроблялося на момент вашого приєднання, буде перевагою.
- Публікації або внесок у проєкти з відкритим кодом у сферах ефективного інференсу, стохастичних алгоритмів чи нових обчислювальних підходів будуть перевагою.
Переваги
- Інклюзивне робоче середовище та відданість різноманіттю.
- Розумні умови праці для людей з інвалідністю.
- Гарантії рівних можливостей під час працевлаштування.
Схожі вакансії
Вакансій не знайдено
Спробуйте змінити або очистити фільтри, щоб знайти більше можливостей.