Normal Computing
Normal Computing
51 – 200 Сотрудники
Доступная информация о профиле указывает, что компания Normal Computing основана в 2022 году, но не описывает её продукты, услуги, отрасль или контекст найма. Чтобы составить полезный обзор для соискателей, нужны дополнительные сведения о компании.

Инженер фронтенда компилятора для архитектур LLM

Расширяйте поддержку новых архитектур LLM в компиляторе: вариантов attention, маршрутизации MoE, квантования и числовых форматов. Проверяйте запуск моделей на симуляторах и прототипах FPGA для внутрипамятного ИИ-оборудования Normal Computing.

Описание

  • Расширяйте поддержку новых архитектур LLM во фронтенде и промежуточном уровне компилятора.
  • Реализуйте в компиляторе варианты attention, схемы маршрутизации MoE и другие архитектуры.
  • Расширяйте IR, набор операций и проходы понижения уровня, чтобы точно представлять новые архитектурные примитивы.
  • Поддерживайте покрытие тестами по мере развития компилятора.
  • Представляйте схемы квантования и числовые форматы, сохраняя точность моделей.
  • Следите за развитием архитектур LLM и предлагайте приоритеты для будущей поддержки в компиляторе.
  • Передавайте программы после понижения уровня инженерам бэкенда компилятора для адаптации к оборудованию.
  • Сотрудничайте с инженером по обслуживанию LLM, чтобы переводить модели от поддержки в компиляторе к обслуживанию.
  • Проверяйте запуск компилятора с помощью симуляторов и прототипов FPGA до появления кремниевых образцов.

Требования

  • Практический опыт разработки и выпуска проходов компилятора для машинного обучения.
  • Глубокое знание внутренних механизмов PyTorch, желательно включая TorchDynamo, FX и torch.export.
  • Рабочее знание современных архитектур LLM, включая механизмы attention, маршрутизацию MoE и схемы квантования.
  • Готовность проектировать инфраструктуру компилятора в новой кодовой базе и расширять существующую.
  • Готовность создавать программное обеспечение для развивающегося оборудования — от симуляции до запуска.
  • Свободное владение Python.
  • Знакомство с C++ или Rust.
  • Опыт работы с IREE, XLA или TVM будет преимуществом.
  • Знакомство с JAX или ONNX будет преимуществом.
  • Опыт распределения моделей между устройствами с помощью параллелизма по тензорам, конвейерам или экспертам будет преимуществом.
  • Опыт совместного проектирования аппаратного и программного обеспечения будет преимуществом.
  • Опыт работы с нестандартными целевыми платформами или внутрипамятным оборудованием будет преимуществом.
  • Участие в проектах с открытым исходным кодом в области компиляторов или инфраструктуры машинного обучения будет преимуществом.

Преимущества

  • Исследовательская работа с возможностью публиковать материалы от имени Normal Computing.
  • Работа с оборудованием до изготовления кристалла — на симуляторах и прототипах FPGA.
  • Инклюзивная рабочая среда и обязательство соблюдать равные возможности при трудоустройстве.
  • Людям с инвалидностью предоставляются разумные условия труда.

Похожие вакансии

Commure

Старший инженер-программист по прикладному ИИ

Commure

Создавайте автоматизацию управления доходами с помощью больших языковых моделей для медицинской ИИ-платформы Commure. Разрабатывайте надежные системы для обработки страховых требований, платежных уведомлений, отказов, апелляций и извлечения данных из документов.

Открыть
Commure

Старший инженер-программист, интеллектуальная обработка страховых требований

Commure

Создавайте инфраструктуру обработки медицинских страховых требований на базе ИИ, включая интеграции с клиринговыми центрами и EDI-конвейеры. Разрабатывайте маршрутизацию проверки права на страховое покрытие и масштабируемые правила управления доходным циклом.

Открыть
Nubank

Ведущий старший инженер-программист, серверная платформа

Nubank
5 001 – 10 000 Сотрудники
Банковское делоФинтех

Руководите разработкой распределённых серверных сервисов и API для глобальной финансовой платформы Nubank. Отвечайте за надёжные внутренние системы, которыми пользуются продуктовые команды компании.

Открыть
OpenAI

Инженер-программист, инфраструктура идентификации

OpenAI

Создавайте и развивайте защищённые высоконагруженные прокси доступа и сервисы идентификации для исследовательской и производственной платформы OpenAI. Проводите распределённые системы через все этапы — от проектирования до промышленной эксплуатации.

Открыть
Honeywell Aerospace Technologies

Инженер-программист II, аэрокосмическое ПО

Honeywell Aerospace Technologies

Разрабатывайте и тестируйте встроенное ПО для аэрокосмических систем в Honeywell Aerospace Technologies. Работайте с инженерными командами над интеграцией оборудования, отладкой и надежными решениями для авиационных систем.

Открыть