Normal Computing
Normal Computing
51 – 200 Nhân viên
Thông tin hồ sơ hiện có cho biết Normal Computing được thành lập vào năm 2022, nhưng chưa mô tả sản phẩm, dịch vụ, lĩnh vực hoạt động hoặc bối cảnh tuyển dụng của công ty. Cần thêm thông tin cụ thể về công ty để cung cấp phần giới thiệu hữu ích cho người tìm việc.

Kỹ sư Frontend Trình biên dịch, Kiến trúc LLM

Mở rộng hỗ trợ trình biên dịch cho các kiến trúc LLM mới, từ biến thể attention và định tuyến MoE đến lượng tử hóa và định dạng số. Kiểm chứng quá trình khởi chạy mô hình trên trình mô phỏng và nguyên mẫu FPGA cho phần cứng AI trong bộ nhớ của Normal Computing.

Mô tả

  • Mở rộng hỗ trợ ở tầng frontend và tầng trung gian của trình biên dịch cho các kiến trúc LLM mới nổi.
  • Triển khai các biến thể attention, phương thức định tuyến MoE và những kiến trúc khác trong trình biên dịch.
  • Mở rộng IR, các phép toán và các bước hạ cấp để biểu diễn chính xác những nguyên thủy kiến trúc mới.
  • Duy trì độ bao phủ kiểm thử khi trình biên dịch phát triển.
  • Biểu diễn các phương thức lượng tử hóa và định dạng số đồng thời bảo toàn độ chính xác của mô hình.
  • Theo dõi những phát triển trong kiến trúc LLM và đề xuất thứ tự ưu tiên cho việc hỗ trợ trình biên dịch trong tương lai.
  • Chuyển các chương trình đã hạ cấp cho kỹ sư trình biên dịch backend để ánh xạ lên phần cứng.
  • Phối hợp với kỹ sư phục vụ LLM để đưa mô hình từ giai đoạn được trình biên dịch hỗ trợ sang khâu phục vụ.
  • Kiểm chứng quá trình khởi chạy trình biên dịch bằng trình mô phỏng và nguyên mẫu FPGA trước khi có silicon.

Yêu cầu

  • Có kinh nghiệm thực tế phát triển và đưa các bước xử lý của trình biên dịch ML vào sử dụng.
  • Am hiểu sâu về nội bộ PyTorch, lý tưởng là có kinh nghiệm với TorchDynamo, FX và torch.export.
  • Có kiến thức chuyên môn về các kiến trúc LLM hiện đại, bao gồm cơ chế attention, định tuyến MoE và phương thức lượng tử hóa.
  • Sẵn sàng thiết kế hạ tầng trình biên dịch trong một codebase mới và mở rộng codebase đã có.
  • Sẵn sàng xây dựng phần mềm cho phần cứng đang phát triển, từ mô phỏng đến khởi chạy ban đầu.
  • Thành thạo Python.
  • Quen thuộc với C++ hoặc Rust.
  • Biết về IREE, XLA hoặc TVM là một lợi thế.
  • Biết về JAX hoặc ONNX là một lợi thế.
  • Có kinh nghiệm phân chia mô hình trên nhiều thiết bị bằng tensor parallelism, pipeline parallelism hoặc expert parallelism là một lợi thế.
  • Có kinh nghiệm đồng thiết kế phần cứng và phần mềm là một lợi thế.
  • Có kinh nghiệm với các mục tiêu phần cứng phi tiêu chuẩn hoặc phần cứng trong bộ nhớ là một lợi thế.
  • Có đóng góp cho các dự án mã nguồn mở về trình biên dịch hoặc hạ tầng ML là một lợi thế.

Phúc lợi

  • Công việc gắn liền với nghiên cứu, cùng cơ hội công bố nghiên cứu dưới danh nghĩa Normal Computing.
  • Làm việc với phần cứng trước khi có silicon bằng trình mô phỏng và nguyên mẫu FPGA.
  • Môi trường làm việc hòa nhập, cam kết cơ hội việc làm bình đẳng.
  • Có thể cung cấp điều chỉnh hợp lý cho người khuyết tật.

Việc làm liên quan

Commure

Kỹ sư phần mềm AI ứng dụng cấp cao

Commure

Xây dựng hệ thống tự động hóa chu trình doanh thu ứng dụng LLM cho nền tảng AI y tế của Commure. Phát triển các hệ thống đáng tin cậy cho hồ sơ yêu cầu thanh toán, chuyển tiền, từ chối, kháng nghị và trích xuất tài liệu.

Mở
Commure

Kỹ sư phần mềm cấp cao, trí tuệ xử lý yêu cầu bồi thường

Commure

Xây dựng hạ tầng xử lý yêu cầu thanh toán y tế ứng dụng AI của Commure, bao gồm tích hợp với clearinghouse và quy trình EDI. Phát triển định tuyến xác minh quyền lợi và bộ quy tắc doanh thu chu kỳ có khả năng mở rộng.

Mở
Nubank

Kỹ sư phần mềm cấp cao, trưởng nhóm nền tảng backend

Nubank
5.001 – 10.000 Nhân viên
FintechNgân hàng

Dẫn dắt phát triển các dịch vụ backend phân tán và API cho nền tảng tài chính toàn cầu của Nubank. Chịu trách nhiệm về các hệ thống nội bộ đáng tin cậy, hỗ trợ các nhóm sản phẩm trên toàn tổ chức.

Mở
OpenAI

Kỹ sư phần mềm, hạ tầng định danh

OpenAI

Xây dựng và làm chủ các proxy truy cập bảo mật, quy mô lớn cùng dịch vụ định danh cho nền tảng nghiên cứu và triển khai của OpenAI. Đưa các hệ thống phân tán từ khâu thiết kế đến vận hành thực tế.

Mở
Honeywell Aerospace Technologies

Kỹ sư phần mềm II, phần mềm hàng không vũ trụ

Honeywell Aerospace Technologies

Phát triển và kiểm thử phần mềm nhúng cho các hệ thống hàng không vũ trụ tại Honeywell Aerospace Technologies. Phối hợp với các nhóm kỹ thuật về tích hợp phần cứng, gỡ lỗi và giải pháp đáng tin cậy cho hệ thống bay.

Mở