
MWDN là công ty cung cấp dịch vụ CNTT và phát triển phần mềm, hỗ trợ doanh nghiệp xây dựng và mở rộng các sản phẩm số trên nền tảng web, di động và máy tính để bàn. Đội ngũ kỹ thuật nội bộ của công ty hỗ trợ triển khai dự án cho khách hàng thông qua dịch vụ bổ sung nhân sự, các đội ngũ phát triển chuyên trách và hoạt động tuyển dụng nhân sự CNTT trên toàn cầu. Với các trung tâm triển khai tại Trung và Đông Âu, MWDN kết nối các tổ chức ở Hoa Kỳ, châu Âu và Israel với nguồn nhân lực phần mềm để thực hiện những dự án công nghệ phù hợp và tối ưu chi phí.
Kỹ sư CUDA, suy luận LLM (từ xa, Uzbekistan)
Tối ưu suy luận LLM trên GPU hiện đại, làm việc với CUDA kernel và các framework phục vụ mô hình. Gia nhập MWDN để tham gia các dự án về hệ thống AI và điện toán hiệu năng cao.
Mô tả
- Cải thiện hiệu năng suy luận LLM trên GPU hiện đại.
- Sử dụng các framework suy luận và phục vụ mô hình như vLLM, SGLang và TensorRT-LLM.
- Phân tích quá trình thực thi trên GPU, truy cập bộ nhớ, hiệu năng kernel và các nút thắt trong suy luận.
- Xây dựng, tinh chỉnh, gỡ lỗi hoặc phân tích ngược CUDA kernel và các thao tác GPU cấp thấp.
- Tìm hiểu các phương pháp tối ưu phép nhân ma trận, attention và các lớp mạng nơ-ron.
- Đo điểm chuẩn hệ thống và tìm cách cải thiện độ trễ, thông lượng và mức độ sử dụng GPU.
- Giải quyết các bài toán khó trong lĩnh vực hệ thống AI và điện toán hiệu năng cao.
- Thực hiện các thử nghiệm thực tế và phân tích hoạt động của hệ thống ở cấp thấp.
Yêu cầu
- Có kinh nghiệm thực tế đáng kể về CUDA và lập trình GPU.
- Hiểu sâu về kiến trúc GPU, phân cấp bộ nhớ, thực thi song song và tối ưu hiệu năng.
- Có kinh nghiệm về suy luận LLM, hệ thống AI, GPU kernel hoặc điện toán hiệu năng cao.
- Thành thạo ít nhất một trong các công nghệ vLLM, SGLang, TensorRT-LLM, Triton hoặc FlashAttention.
- Có khả năng chẩn đoán các vấn đề hiệu năng phức tạp và tìm hiểu hoạt động của hệ thống ở cấp thấp.
- Có kỹ năng giải quyết vấn đề tốt.
- Truyền đạt hiệu quả các ý tưởng kỹ thuật phức tạp bằng tiếng Anh.
- Có bằng tiến sĩ hoặc nền tảng nghiên cứu về khoa học máy tính, học máy, kiến trúc máy tính hoặc lĩnh vực liên quan là một lợi thế.
- Có công bố nghiên cứu, dự án hoặc đóng góp mã nguồn mở đáng kể cho hạ tầng GPU hoặc LLM là một lợi thế.
- Có kinh nghiệm với nội bộ PyTorch, suy luận phân tán, lượng tử hóa, tinh chỉnh KV cache hoặc GPU kernel tùy chỉnh là một lợi thế.
- Có đóng góp cho vLLM, SGLang, Triton, FlashAttention hoặc các kho mã liên quan là một lợi thế.
Phúc lợi
- Quy trình thẩm định khách hàng nhằm giảm rủi ro và hỗ trợ thanh toán đáng tin cậy, đúng hạn.
- Tư vấn nghề nghiệp và hỗ trợ tìm kiếm cơ hội trong tương lai.
- Tư vấn pháp lý về hợp đồng độc lập hoặc hộ kinh doanh cá thể, thuế và các vấn đề liên quan.
- Học tiếng Anh và cơ hội phát triển chuyên môn.
- Hoạt động gắn kết đội ngũ.
- Giờ làm việc linh hoạt.
- 29 ngày nghỉ có lương: 18 ngày làm việc mỗi năm cùng các ngày lễ quốc gia.
- 10 ngày nghỉ phục hồi có lương.
- Hỗ trợ tài chính và pháp lý cho nhà thầu độc lập.
- Học tiếng Anh miễn phí với giáo viên bản ngữ hoặc giáo viên người Ukraine.
- Hỗ trợ nhân sự riêng.
- Cách quản lý lấy con người làm trọng tâm, với ít thủ tục hành chính.
- Văn hóa công ty thân thiện.
Việc làm liên quan
Không tìm thấy việc làm
Hãy thử điều chỉnh hoặc xóa bộ lọc để tìm thêm cơ hội.