Normal Computing
Normal Computing
51 – 200 Служители
Наличната информация в профила посочва, че компанията Normal Computing е основана през 2022 г., но не описва нейните продукти, услуги, бранш или контекст на наемане. Необходими са повече подробности за компанията, за да се представи полезен обзор за търсещите работа.

Инженер по компилаторен фронтенд за LLM архитектури

Разширявайте поддръжката на компилатора за нови LLM архитектури — от варианти на механизма за внимание и MoE маршрутизиране до квантизация и числови формати. Проверявайте стартирането на модели със симулатори и FPGA прототипи за AI хардуера с изчисления в паметта на Normal Computing.

Описание

  • Разширявайте поддръжката на фронтенда и средното ниво на компилатора за нови LLM архитектури.
  • Имплементирайте в компилатора варианти на механизма за внимание, схеми за MoE маршрутизиране и други архитектури.
  • Разширявайте IR, операциите и проходите за понижаване на нивото, така че точно да представят новите архитектурни примитиви.
  • Поддържайте покритието с тестове с развитието на компилатора.
  • Представяйте схеми за квантизация и числови формати, като запазвате точността на моделите.
  • Следете развитието на LLM архитектурите и препоръчвайте приоритети за бъдеща поддръжка от компилатора.
  • Предавайте програмите след понижаване на нивото на инженерите по бекенд компилатора за съпоставяне с хардуера.
  • Работете с инженера по обслужване на LLM модели, за да преминават моделите от поддръжка в компилатора към обслужване.
  • Проверявайте стартирането на компилатора със симулатори и FPGA прототипи, преди да е наличен силиций.

Изисквания

  • Практически опит в разработването и внедряването на компилаторни проходи за машинно обучение.
  • Добро познаване на вътрешното устройство на PyTorch, в идеалния случай включително TorchDynamo, FX и torch.export.
  • Работни познания за съвременни LLM архитектури, включително механизми за внимание, MoE маршрутизиране и схеми за квантизация.
  • Умение за проектиране на компилаторна инфраструктура в нова кодова база и разширяване на съществуваща.
  • Умение за създаване на софтуер за развиващ се хардуер — от симулация до пускане в действие.
  • Свободно владеене на Python.
  • Познания по C++ или Rust.
  • Опитът с IREE, XLA или TVM е предимство.
  • Познанията по JAX или ONNX са предимство.
  • Опитът с разделяне на модели между устройства чрез тензорен, конвейерен или експертен паралелизъм е предимство.
  • Опитът в съвместното проектиране на хардуер и софтуер е предимство.
  • Опитът с нестандартни хардуерни цели или хардуер с изчисления в паметта е предимство.
  • Приносът към проекти с отворен код за компилатори или инфраструктура за машинно обучение е предимство.

Придобивки

  • Работа, свързана с научни изследвания, с възможност за публикации от името на Normal Computing.
  • Работа с хардуер преди производството на силиций, чрез симулатори и FPGA прототипи.
  • Приобщаващо работно място с ангажимент към равните възможности за заетост.
  • Предлагат се разумни приспособявания за хора с увреждания.

Свързани работни места

Commure

Старши софтуерен инженер по приложен изкуствен интелект

Commure

Изграждайте автоматизация на цикъла на приходите в здравеопазването с големи езикови модели за платформата на Commure за здравен изкуствен интелект. Разработвайте надеждни системи за искове, плащания, откази, обжалвания и извличане на данни от документи.

Отвори
Commure

Старши софтуерен инженер за интелигентна обработка на искове

Commure

Изграждайте AI инфраструктурата на Commure за здравни искове, включително интеграции с клирингови центрове и EDI процеси. Разработвайте маршрутизиране за проверка на покритието и мащабируеми правила за цикъла на приходите.

Отвори
Nubank

Старши водещ софтуерен инженер, бекенд платформа

Nubank
5001 – 10 000 Служители
Банково делоФинтех

Ръководете разработването на разпределени бекенд услуги и API за глобалната финансова платформа на Nubank. Поемете отговорност за надеждни вътрешни системи, които подпомагат продуктовите екипи в цялата организация.

Отвори
OpenAI

Софтуерен инженер, инфраструктура за идентичност

OpenAI

Изграждайте и поддържайте сигурни прокси сървъри за достъп с голям капацитет и услуги за идентичност за изследователската и производствената платформа на OpenAI. Развивайте разпределени системи от проектирането до продукционната среда.

Отвори
Honeywell Aerospace Technologies

Софтуерен инженер II, аерокосмически софтуер

Honeywell Aerospace Technologies

Разработвайте и тествайте вграден софтуер за аерокосмически системи в Honeywell Aerospace Technologies. Работете с инженерни екипи по интеграция на хардуер, отстраняване на грешки и надеждни решения за летателни системи.

Отвори