LogoFresh Jobs Ahead
STN Incorporated
STN Incorporated
11 – 50 Nhân viên
An ninh mạngDoanh nghiệpPhần cứng
STN Incorporated cung cấp dịch vụ quản lý CNTT và hạ tầng đám mây cho doanh nghiệp và các nhóm phát triển phần mềm trọng yếu, hệ thống AI và robot. Dịch vụ của công ty bao gồm đám mây CPU riêng, hạ tầng GPU One AI, mạng và lưu trữ an toàn, cùng hoạt động vận hành đám mây liên tục với hỗ trợ trực tiếp 24/7 và cam kết mức dịch vụ có thời gian hoạt động cao. Công ty cũng đảm nhiệm vận hành an ninh mạng và ứng phó sự cố, quản lý tuân thủ và rủi ro, sao lưu và khôi phục, cũng như mua sắm công nghệ và quản lý vòng đời. STN phục vụ các công ty SaaS, đơn vị phát triển AI và mô hình, doanh nghiệp robot và các tổ chức chịu sự quản lý, bao gồm cơ sở cung cấp dịch vụ chăm sóc sức khỏe; hạ tầng được thiết kế để hỗ trợ khả năng sẵn sàng kiểm toán và các khuôn khổ như SOC 2 Type II và HIPAA.
LinkedIn
Việc làm tại công ty

Trưởng nhóm tối ưu hóa tải suy luận cấp cao

Dẫn dắt tối ưu hiệu năng GPU cho các tác vụ AI của khách hàng trên nền tảng trung tâm dữ liệu tự vận hành của STN. Chuyển chuyên môn tối ưu thành các giải pháp để tác nhân tự thực thi và giám sát dịch vụ mô hình nội bộ.

USHoa KỳTừ xaToàn thời gianCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhTrí tuệ nhân tạo

Mô tả

  • Phân tích tải huấn luyện và suy luận của khách hàng để xác định điểm nghẽn hiệu năng trong nạp dữ liệu, giao tiếp tập thể, băng thông bộ nhớ, kernel, gom nhóm tác vụ và tính song song.
  • Thiết lập chuẩn hiệu năng cho từng thế hệ phần cứng, bắt đầu với các hệ thống NVIDIA hiện hành.
  • Chuyển chuyên môn tối ưu thành các giải pháp mà tác nhân có thể áp dụng trên các cụm máy của khách hàng.
  • Tinh chỉnh tải cùng khách hàng có cam kết dung lượng, trực tiếp hoặc thông qua đội ngũ vận hành của họ.
  • Ở vai trò phụ, quản lý dịch vụ mô hình nội bộ, bao gồm định tuyến cân bằng chi phí và độ trễ cũng như chuyển đổi phiên bản mô hình.
  • Tư vấn phân bổ GPU giữa suy luận nội bộ và tải của khách hàng.

Yêu cầu

  • Có chuyên môn sâu về kỹ thuật hiệu năng GPU, bao gồm lập hồ sơ hiệu năng, hành vi bộ nhớ và băng thông, cùng hiểu biết ở cấp kernel.
  • Có kiến thức thực tiễn về các hệ thống phục vụ mô hình như vLLM, SGLang hoặc TensorRT-LLM, bao gồm gom nhóm tác vụ, quản lý bộ nhớ đệm KV và các đánh đổi khi lượng tử hóa.
  • Có kinh nghiệm với huấn luyện và suy luận phân tán ở quy mô lớn, bao gồm song song tensor, song song pipeline và song song dữ liệu.
  • Có kinh nghiệm tinh chỉnh giao tiếp tập thể, chẳng hạn như NCCL.
  • Thành thạo các công cụ lập hồ sơ hiệu năng như Nsight, DCGM và công cụ lập hồ sơ ở cấp framework.
  • Có khả năng giải thích kết quả hiệu năng cho khách hàng và mã hóa giải pháp để tác nhân thực thi.
  • Ưu tiên: phát triển kernel CUDA, triển khai mô hình trọng số mở ở quy mô lớn, thiết kế benchmark và kinh nghiệm kỹ thuật làm việc trực tiếp với khách hàng.

Việc làm liên quan

SHI International Corp.

Quản lý Tiếp thị Giải pháp AI Cấp cao

SHI International Corp.
5.001 – 10.000 Nhân viên
Hậu cầnSản xuấtTư vấn
USHoa Kỳ
140.000 $ – 170.000 $ / năm
Từ xaToàn thời gianCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhTrí tuệ nhân tạo

Định hình định vị AI doanh nghiệp, thông điệp và hoạt động ra mắt của SHI. Phát triển tài liệu hỗ trợ bán hàng, nội dung sự kiện và câu chuyện khách hàng để thúc đẩy tăng trưởng.

Mở
Gramian Consulting

Chuyên viên nghiên cứu và đánh giá hội thoại AI

Gramian Consulting
Hậu cầnTiếp thịTư vấn
AUÚcCACanadaGBVương quốc AnhIEIrelandSAẢ Rập Xê-útUSHoa KỳTừ xaToàn thời gianTrung cấpCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhTrí tuệ nhân tạo

Gramian Consulting đang tuyển chuyên viên đánh giá hội thoại AI nhằm nâng cao chất lượng các đề xuất của AI. Vị trí này sử dụng phân tích định tính có cấu trúc để đánh giá các tình huống giữa người với người và xác định bối cảnh còn thiếu.

Mở
Gartner

Giám đốc cấp cao phụ trách quản lý dữ liệu và thúc đẩy AI

Gartner
Nhà tài trợ visa H1BChăm sóc sức khỏeHậu cầnTiếp thị
USHoa Kỳ
172.000 $ – 202.500 $ / năm
Từ xaToàn thời gianCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhTrí tuệ nhân tạo
An ninh mạng

Tại Gartner, cung cấp nghiên cứu và tư vấn cấp điều hành về nền tảng quản lý dữ liệu và thúc đẩy AI. Tư vấn lãnh đạo doanh nghiệp thông qua phân tích chuyên sâu, bài thuyết trình và các buổi làm việc với khách hàng.

Mở
CDW

Kỹ sư tư vấn phần mềm AI cấp cao

CDW
Nhà tài trợ visa H1BChăm sóc sức khỏeGiáo dụcTư vấn
USHoa Kỳ
107.300 $ – 150.180 $ / năm
Từ xaToàn thời gianCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhTrí tuệ nhân tạo
KubernetesPythonPyTorch

Dẫn dắt các dự án AI và MLOps cho khách hàng tại CDW, từ thiết kế kiến trúc giải pháp đến triển khai. Hướng dẫn kỹ sư và xây dựng hệ thống sản xuất an toàn, có khả năng mở rộng.

Mở
CDW

Kỹ sư tư vấn hạ tầng AI, điện toán và lưu trữ

CDW
Nhà tài trợ visa H1BChăm sóc sức khỏeGiáo dụcTư vấn
USHoa Kỳ
77.725 $ – 108.265 $ / năm
Từ xaToàn thời gianTrung cấpCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhTrí tuệ nhân tạo
KubernetesLinuxNFS

Thiết kế và thẩm định giải pháp điện toán GPU cùng hệ thống lưu trữ hiệu năng cao cho các khối lượng công việc AI và học máy trong doanh nghiệp. Hỗ trợ khách hàng CDW triển khai hạ tầng phục vụ huấn luyện, tinh chỉnh và suy luận AI.

Mở
Salesforce

Trưởng nhóm Đổi mới AI cấp cao, Khoa học sự sống

Salesforce
Nhà tài trợ visa H1BSaaSTiếp thịTư vấn
USHoa KỳCACaliforniaILIllinoisNJNew JerseyVAVirginia
191.100 $ – 320.600 $ / năm
Từ xaToàn thời gianCao cấpNgôn Ngữ Bắt Buộc: Tiếng AnhTrí tuệ nhân tạo
Đám mây

Dẫn dắt chiến lược triển khai AI cho lĩnh vực Khoa học sự sống tại Salesforce, phát triển năng lực có thể tái sử dụng và thúc đẩy chuyển đổi khách hàng. Định hướng đội ngũ toàn cầu gồm các bộ phận sản phẩm, kỹ thuật và dịch vụ chuyên nghiệp.

Mở