Kỹ sư nghiên cứu, thuật toán cho phần cứng suy luận LLM
Phát triển thuật toán suy luận LLM cho phần cứng AI dùng bộ nhớ trong của Normal Computing. Phối hợp với các nhóm phần cứng và kiến trúc để đồng thiết kế phương pháp số, chuẩn đánh giá và nguyên mẫu.
Mô tả
- Phát triển thuật toán cho các tác vụ suy luận LLM trên phần cứng dùng bộ nhớ trong.
- Phối hợp với các nhóm phần cứng và kiến trúc để đồng thiết kế phần mềm và phần cứng.
- Tạo ra các phương pháp số khai thác nhiễu nhiệt và động lực học tương tự.
- Xây dựng khung đánh giá và chuẩn kiểm thử cho mô phỏng cũng như phần cứng thực tế.
- Chuyển hiểu biết về tác vụ của mô hình thành các ràng buộc và cơ hội trong thiết kế phần cứng.
- Tạo nguyên mẫu và hoàn thiện thuật toán khi phần cứng phát triển từ mô phỏng đến silicon.
- Cải thiện hiệu năng ở cả cấp cổng logic lẫn cấp thuật toán.
- Kiểm thử thuật toán bằng trình mô phỏng, nguyên mẫu FPGA và silicon khi có sẵn.
Yêu cầu
- Am hiểu sâu về suy luận mô hình lớn, bao gồm cơ chế attention, bộ nhớ đệm KV, giải mã ngữ cảnh dài và giới hạn băng thông bộ nhớ.
- Có kinh nghiệm cải thiện suy luận bằng các kỹ thuật như lượng tử hóa, tính thưa, hợp nhất kernel hoặc attention tiết kiệm bộ nhớ.
- Quen thuộc với hệ thống ngẫu nhiên, phương pháp xác suất, phân tích số hoặc tính toán tương tự.
- Có kinh nghiệm triển khai thuật toán sát với phần cứng thay vì chỉ dựa vào các framework cấp cao.
- Có khả năng suy luận từ các nguyên lý cơ bản về những nền tảng tính toán mới.
- Có thành tích đưa ý tưởng từ lý thuyết đến triển khai trên phần cứng thực tế.
- Thành thạo Python và ít nhất một ngôn ngữ lập trình hệ thống.
- Có khả năng phối hợp với các nhóm phần cứng, kiến trúc và phần mềm.
- Có bằng tiến sĩ về học máy, toán ứng dụng, vật lý, kỹ thuật điện hoặc lĩnh vực liên quan là một lợi thế.
- Có hiểu biết về hệ thống tương tự hoặc tín hiệu hỗn hợp, tính toán trong bộ nhớ hoặc kiến trúc phi von Neumann là một lợi thế.
- Có kinh nghiệm làm việc với phần cứng vẫn đang được phát triển khi bạn gia nhập là một lợi thế.
- Có công bố hoặc đóng góp mã nguồn mở về suy luận hiệu quả, thuật toán ngẫu nhiên hoặc tính toán mới là một lợi thế.
Phúc lợi
- Môi trường làm việc hòa nhập, cam kết thúc đẩy sự đa dạng.
- Có hỗ trợ điều chỉnh hợp lý cho người khuyết tật.
- Được bảo vệ theo chính sách cơ hội việc làm bình đẳng.
Việc làm liên quan
Không tìm thấy việc làm
Hãy thử điều chỉnh hoặc xóa bộ lọc để tìm thêm cơ hội.