Normal Computing
Normal Computing
51 – 200 Працівники
Доступна інформація про профіль компанії Normal Computing вказує, що її засновано у 2022 році, але не описує її продукти, послуги, галузь чи контекст найму. Щоб підготувати корисний огляд для шукачів роботи, потрібні додаткові відомості про компанію.

Інженер фронтенду компілятора для архітектур LLM

Розширюйте підтримку нових архітектур LLM у компіляторі: варіантів attention, маршрутизації MoE, квантування та числових форматів. Перевіряйте запуск моделей на симуляторах і прототипах FPGA для внутрішньопам’ятного обладнання ШІ Normal Computing.

Опис

  • Розширюйте підтримку нових архітектур LLM у фронтенді та проміжному рівні компілятора.
  • Реалізуйте в компіляторі варіанти attention, схеми маршрутизації MoE та інші архітектури.
  • Розширюйте IR, набір операцій і проходи зниження рівня, щоб точно представляти нові архітектурні примітиви.
  • Підтримуйте покриття тестами в міру розвитку компілятора.
  • Представляйте схеми квантування та числові формати, зберігаючи точність моделей.
  • Стежте за розвитком архітектур LLM і пропонуйте пріоритети для майбутньої підтримки в компіляторі.
  • Передавайте програми після зниження рівня інженерам бекенду компілятора для адаптації до обладнання.
  • Співпрацюйте з інженером із обслуговування LLM, щоб переводити моделі від підтримки в компіляторі до обслуговування.
  • Перевіряйте запуск компілятора за допомогою симуляторів і прототипів FPGA до появи кремнієвих зразків.

Вимоги

  • Практичний досвід розроблення та випуску проходів компілятора для машинного навчання.
  • Глибоке знання внутрішніх механізмів PyTorch, бажано з TorchDynamo, FX і torch.export.
  • Робоче знання сучасних архітектур LLM, зокрема механізмів attention, маршрутизації MoE та схем квантування.
  • Готовність проєктувати інфраструктуру компілятора в новій кодовій базі та розширювати наявну.
  • Готовність створювати програмне забезпечення для обладнання, що розвивається, — від симуляції до запуску.
  • Вільне володіння Python.
  • Знайомство з C++ або Rust.
  • Досвід роботи з IREE, XLA або TVM буде перевагою.
  • Знайомство з JAX або ONNX буде перевагою.
  • Досвід розподілу моделей між пристроями за допомогою паралелізму за тензорами, конвеєрами чи експертами буде перевагою.
  • Досвід спільного проєктування апаратного та програмного забезпечення буде перевагою.
  • Досвід роботи з нестандартними цільовими платформами або внутрішньопам’ятним обладнанням буде перевагою.
  • Внесок у проєкти з відкритим вихідним кодом у сфері компіляторів або інфраструктури машинного навчання буде перевагою.

Переваги

  • Дослідницька робота з можливістю публікувати матеріали від імені Normal Computing.
  • Робота з обладнанням до виготовлення кристала на симуляторах і прототипах FPGA.
  • Інклюзивне робоче середовище та зобов’язання забезпечувати рівні можливості працевлаштування.
  • Для людей з інвалідністю доступні розумні умови праці.

Схожі вакансії

Commure

Старший інженер-програміст із прикладного ШІ

Commure

Створюйте автоматизацію управління доходами на основі великих мовних моделей для медичної ШІ-платформи Commure. Розробляйте надійні системи для обробки страхових вимог, платіжних повідомлень, відмов, апеляцій і вилучення даних із документів.

Відкрити
Commure

Старший інженер-програміст, інтелектуальна обробка страхових вимог

Commure

Створюйте інфраструктуру обробки медичних страхових вимог на базі ШІ, зокрема інтеграції з кліринговими центрами та EDI-конвеєри. Розробляйте маршрутизацію перевірки права на страхове покриття та масштабовані правила управління циклом доходів.

Відкрити
Nubank

Провідний старший інженер-програміст, серверна платформа

Nubank
5 001 – 10 000 Працівники
Банківська справаФінтех

Керуйте розробкою розподілених серверних сервісів і API для глобальної фінансової платформи Nubank. Відповідайте за надійні внутрішні системи, якими користуються продуктові команди компанії.

Відкрити
OpenAI

Інженер-програміст, інфраструктура ідентифікації

OpenAI

Створюйте й розвивайте захищені високонавантажені проксі доступу та сервіси ідентифікації для дослідницької і виробничої платформи OpenAI. Проводьте розподілені системи через усі етапи — від проєктування до промислової експлуатації.

Відкрити
Honeywell Aerospace Technologies

Інженер-програміст II, аерокосмічне програмне забезпечення

Honeywell Aerospace Technologies

Розробляйте й тестуйте вбудоване програмне забезпечення для аерокосмічних систем у Honeywell Aerospace Technologies. Співпрацюйте з інженерними командами над інтеграцією обладнання, налагодженням і надійними рішеннями для авіаційних систем.

Відкрити