Hewlett Packard Enterprise
Hewlett Packard Enterprise
Hewlett Packard Enterprise phát triển công nghệ doanh nghiệp cho các tổ chức vận hành môi trường đám mây lai và hoạt động dựa trên AI. Danh mục sản phẩm của công ty bao gồm máy chủ HPE ProLiant và hệ thống điện toán hiệu năng cao HPE Cray, giải pháp lưu trữ HPE Alletra, mạng HPE Aruba, các nền tảng AI và nhà máy AI trọn gói, cùng các giải pháp GreenLake dưới dạng dịch vụ. HPE cũng cung cấp các năng lực bảo mật như Zero Trust và SASE, cùng các dịch vụ chuyên môn, tư vấn và hỗ trợ giúp các tổ chức lớn hiện đại hóa hạ tầng, quản lý môi trường trung tâm dữ liệu và triển khai AI trên quy mô lớn.

Kỹ sư phần mềm suy luận cấp cao tại HPE Hybrid

Dẫn dắt phát triển môi trường chạy suy luận LLM của HPE AI Essentials cho hạ tầng do khách hàng sở hữu. Cải thiện khả năng phục vụ tiết kiệm GPU, thực thi phân tán và điều phối Kubernetes.

Mô tả

  • Phụ trách các thành phần cốt lõi của hệ thống triển khai phục vụ LLM, bao gồm tích hợp engine, batching liên tục, quản lý và tái sử dụng bộ nhớ đệm KV, cùng thực thi lượng tử hóa.
  • Phối hợp với các nhóm kỹ thuật suy luận để giảm thời gian tạo token đầu tiên, độ trễ giữa các token, thông lượng GPU và độ trễ đuôi P95/P99.
  • Phát triển và vận hành các tính năng thực thi phân tán như tách biệt prefill và decode, song song hóa tensor và pipeline, cùng chuyển bộ nhớ đệm KV giữa bộ nhớ GPU, bộ nhớ máy chủ và bộ lưu trữ kết nối qua RDMA.
  • Đánh giá các runtime mới, phương pháp lượng tử hóa, giải mã suy đoán và phục vụ mô hình hỗn hợp chuyên gia, sau đó đề xuất công nghệ áp dụng.
  • Hỗ trợ xây dựng lớp điều phối bao quát việc tiếp nhận mô hình, lập lịch và phân vùng GPU, định tuyến yêu cầu nhận biết bộ nhớ đệm và tự động mở rộng.
  • Xử lý vấn đề của khách hàng từ đầu đến cuối, xác định nguyên nhân gốc rễ và củng cố các hệ thống, quy trình liên quan.
  • Đánh giá mã nguồn và thiết kế, hướng dẫn đồng nghiệp và làm gương về các thực hành kỹ thuật vững chắc.

Yêu cầu

  • Có ít nhất 8 năm kinh nghiệm kỹ thuật phần mềm.
  • Có từ một đến hai năm trở lên kinh nghiệm trực tiếp với runtime suy luận LLM hoặc phục vụ mô hình trong môi trường production.
  • Có bằng khoa học máy tính hoặc ngành liên quan.
  • Quen thuộc với các engine suy luận LLM như vLLM, SGLang, TensorRT-LLM, TGI hoặc NVIDIA NIM, bao gồm kinh nghiệm sửa đổi phần lõi của engine.
  • Nắm vững batching liên tục, paged attention, tái sử dụng bộ nhớ đệm KV và prefix caching, chunked prefill, lượng tử hóa và giải mã suy đoán.
  • Có kiến thức thực tế về song song hóa tensor và pipeline, các phép toán tập thể NCCL, phân cấp bộ nhớ GPU và đặc tính của liên kết kết nối.
  • Thành thạo nâng cao về kiến trúc nền tảng Kubernetes, bao gồm operator, custom resource, controller và lập lịch.
  • Có kỹ năng lập trình tốt với Go và Python.
  • Có khả năng đọc, gỡ lỗi và lập hồ sơ C++ và CUDA bằng các công cụ như Nsight.
  • Quen thuộc với việc gỡ lỗi và lập hồ sơ cho workload nhiều tầng, bao gồm các ứng dụng RAG và agent.
  • Có năng lực phân tích, gỡ lỗi và giải quyết vấn đề xuất sắc.
  • Ưu tiên: Có đóng góp cho vLLM, SGLang, TensorRT-LLM, llm-d, LMCache hoặc KServe.
  • Ưu tiên: Có kinh nghiệm phục vụ prefill và decode tách biệt hoặc chuyển, tái sử dụng bộ nhớ đệm KV quy mô lớn.
  • Ưu tiên: Có kinh nghiệm với RDMA, GPUDirect Storage, InfiniBand hoặc RoCE.
  • Ưu tiên: Có kinh nghiệm với MIG, phân bổ GPU phân mảnh và cô lập GPU cho nhiều bên thuê.
  • Ưu tiên: Có kinh nghiệm cung cấp phần mềm cho môi trường doanh nghiệp tại chỗ, cách ly mạng hoặc chịu sự quản lý nghiêm ngặt.

Phúc lợi

  • Gói phúc lợi toàn diện hỗ trợ sức khỏe thể chất, an toàn tài chính và bienestar tinh thần.
  • Các chương trình hỗ trợ phát triển cá nhân và nghề nghiệp.
  • Linh hoạt trong cách thức làm việc và đáp ứng nhu cầu cá nhân.
  • Văn hóa nơi làm việc hòa nhập.
  • Có sự điều chỉnh hợp lý trong quá trình ứng tuyển hoặc phỏng vấn dành cho ứng viên khuyết tật đủ điều kiện.

Việc làm liên quan

Brown & Brown Insurance

Chuyên viên phân tích tài chính cấp cao, Công nghệ

Brown & Brown Insurance

Phân tích chi tiêu công nghệ và hiệu quả tài chính trong hoạt động kinh doanh bảo hiểm của Brown & Brown. Sử dụng dữ liệu Workday để hỗ trợ dự báo, lập ngân sách, báo cáo và quyết định của lãnh đạo bộ phận Công nghệ.

Mở
BDO France

Kế toán viên giàu kinh nghiệm

BDO France
1.001 – 5.000 Nhân viên
B2BTài chínhTư vấn

Gia nhập BDO France với vai trò kế toán viên giàu kinh nghiệm, phụ trách các vấn đề kế toán và thuế cho khách hàng. Công việc gồm kê khai, rà soát sổ sách, khóa sổ cuối năm và hỗ trợ khách hàng hằng ngày.

Mở
PMA Consultants

Chuyên viên kế toán dự án NetSuite

PMA Consultants

Quản lý việc lập hóa đơn và hồ sơ tài chính dự án trên NetSuite cho hoạt động tư vấn xây dựng của PMA Consultants, phối hợp với quản lý dự án, bộ phận tài chính, vận hành và khách hàng. Theo dõi ngân sách, hóa đơn, chi phí và các vấn đề thanh toán trong suốt vòng đời dự án.

Mở
INTEGRIS Health

Chuyên viên cao cấp kế toán bệnh nhân, thanh toán dịch vụ bác sĩ

INTEGRIS Health

Giải quyết các yêu cầu thanh toán dịch vụ bác sĩ phức tạp, khoản từ chối chi trả và kháng nghị tại INTEGRIS Health, hệ thống y tế phi lợi nhuận lớn nhất Oklahoma. Vị trí này quản lý các khoản hoàn trả và quan hệ với bên chi trả.

Mở
SelectLine Software Gmbh

Kiểm soát viên tài chính cấp cao

SelectLine Software Gmbh

Dẫn dắt công tác báo cáo, dự báo và xây dựng bảng điều khiển KPI tại SelectLine Software, nhà cung cấp phần mềm kinh doanh được thiết kế theo nhu cầu. Hỗ trợ hoạch định tài chính và quản lý hiệu quả hoạt động trong toàn tập đoàn.

Mở
Joma Jewellery & Katie Loxton

Điều phối viên Bán hàng và Tiếp thị B2B

Joma Jewellery & Katie Loxton
51 – 200 Nhân viên
Bán lẻThời trang

Điều phối hoạt động tiếp thị bán buôn và hỗ trợ bán hàng cho Joma Jewellery, A Littles & Co và Katie Loxton. Vai trò bao gồm chiến dịch, đại lý bán hàng, nền tảng thương mại điện tử và báo cáo thương mại.

Mở
Griepenstroh Personalvermittlung GmbH

Chuyên viên kiểm soát giao dịch năng lượng cấp cao

Griepenstroh Personalvermittlung GmbH

Giám sát biên lợi nhuận giao dịch, hoạt động phòng hộ và lượng hàng tồn trong bồn chứa cho một đơn vị kinh doanh năng lượng quốc tế. Công việc bao gồm theo dõi rủi ro, định giá, dự báo và lập báo cáo quản trị.

Mở
INTEGRIS Health

Chuyên viên thanh toán viện phí bác sĩ cấp cao

INTEGRIS Health

Xử lý các yêu cầu thanh toán phức tạp, từ chối chi trả và kháng nghị cho INTEGRIS Health. Quản lý quan hệ với đơn vị chi trả, dữ liệu hoàn trả, tuân thủ và cải tiến quy trình.

Mở