STN Incorporated
STN Incorporated
STN Incorporated ให้บริการดูแลจัดการด้านไอทีและโครงสร้างพื้นฐานคลาวด์สำหรับองค์กรและทีมที่พัฒนาซอฟต์แวร์สำคัญต่อธุรกิจ ระบบ AI และหุ่นยนต์ บริการครอบคลุมคลาวด์ CPU ส่วนตัว โครงสร้างพื้นฐาน GPU One AI เครือข่ายและพื้นที่จัดเก็บข้อมูลที่ปลอดภัย ตลอดจนการดูแลระบบคลาวด์อย่างต่อเนื่อง พร้อมเจ้าหน้าที่ให้ความช่วยเหลือตลอด 24 ชั่วโมงทุกวันและข้อตกลงระดับบริการที่กำหนดเวลาพร้อมใช้งานสูง บริษัทยังดูแลการปฏิบัติงานด้านความปลอดภัยไซเบอร์และการรับมือเหตุการณ์ การจัดการการปฏิบัติตามข้อกำหนดและความเสี่ยง การสำรองและกู้คืนข้อมูล รวมถึงการจัดซื้อเทคโนโลยีและการบริหารตลอดวงจรชีวิต STN ให้บริการบริษัท SaaS ผู้พัฒนา AI และโมเดล บริษัทหุ่นยนต์ และองค์กรภายใต้การกำกับดูแล รวมถึงผู้ให้บริการด้านสุขภาพ โดยออกแบบโครงสร้างพื้นฐานให้รองรับความพร้อมในการตรวจสอบและกรอบมาตรฐาน เช่น SOC 2 Type II และ HIPAA

หัวหน้าทีมเพิ่มประสิทธิภาพเวิร์กโหลดการอนุมานอาวุโส

นำการปรับแต่งประสิทธิภาพ GPU สำหรับเวิร์กโหลด AI ของลูกค้าบนแพลตฟอร์มศูนย์ข้อมูลอัตโนมัติของ STN แปลงความเชี่ยวชาญด้านการปรับแต่งเป็นวิธีแก้ไขที่เอเจนต์นำไปใช้ได้ พร้อมดูแลการให้บริการโมเดลภายใน

รายละเอียด

  • วิเคราะห์เวิร์กโหลดการฝึกและการอนุมานของลูกค้าเพื่อค้นหาคอขวดด้านประสิทธิภาพในการโหลดข้อมูล การสื่อสารแบบกลุ่ม แบนด์วิดท์หน่วยความจำ เคอร์เนล การจัดแบตช์ และการประมวลผลแบบขนาน
  • กำหนดเกณฑ์มาตรฐานประสิทธิภาพสำหรับฮาร์ดแวร์แต่ละรุ่น โดยเริ่มจากระบบ NVIDIA รุ่นปัจจุบัน
  • แปลงความเชี่ยวชาญด้านการปรับแต่งเป็นวิธีแก้ไขที่เอเจนต์นำไปใช้ได้กับคลัสเตอร์ของลูกค้า
  • ปรับแต่งเวิร์กโหลดร่วมกับลูกค้าที่จองกำลังประมวลผลไว้ หรือทำงานผ่านทีมปฏิบัติการของลูกค้าโดยตรง
  • รับผิดชอบรองในการจัดการการให้บริการโมเดลภายใน รวมถึงการกำหนดเส้นทางที่คำนึงถึงต้นทุนและเวลาแฝง ตลอดจนการย้ายเวอร์ชันโมเดล
  • ให้คำแนะนำในการจัดสรร GPU ระหว่างงานอนุมานภายในกับเวิร์กโหลดของลูกค้า

คุณสมบัติ

  • มีความเชี่ยวชาญเชิงลึกด้านวิศวกรรมประสิทธิภาพ GPU รวมถึงการทำโปรไฟล์ พฤติกรรมของหน่วยความจำและแบนด์วิดท์ และความเข้าใจในระดับเคอร์เนล
  • มีความรู้จากการลงมือทำเกี่ยวกับสแต็กให้บริการโมเดล เช่น vLLM, SGLang หรือ TensorRT-LLM รวมถึงการจัดแบตช์ การจัดการ KV cache และข้อแลกเปลี่ยนในการควอนไทซ์
  • มีประสบการณ์ด้านการฝึกและการอนุมานแบบกระจายในระดับใหญ่ รวมถึงการประมวลผลแบบขนานตามเทนเซอร์ ไปป์ไลน์ และข้อมูล
  • มีประสบการณ์ปรับแต่งการสื่อสารแบบกลุ่ม เช่น NCCL
  • ใช้เครื่องมือทำโปรไฟล์ได้อย่างคล่องแคล่ว เช่น Nsight, DCGM และเครื่องมือโปรไฟล์ระดับเฟรมเวิร์ก
  • สามารถอธิบายผลการวิเคราะห์ประสิทธิภาพให้ลูกค้าเข้าใจ และเข้ารหัสวิธีแก้ไขให้เอเจนต์นำไปใช้ได้
  • คุณสมบัติที่พึงประสงค์: พัฒนา CUDA kernel ปรับใช้โมเดลโอเพนเวตขนาดใหญ่ ออกแบบเบนช์มาร์ก และมีประสบการณ์ด้านเทคนิคที่ทำงานกับลูกค้าโดยตรง

งานที่เกี่ยวข้อง

SHI International Corp.

ผู้จัดการการตลาดโซลูชัน AI อาวุโส

SHI International Corp.

กำหนดจุดยืนทางการตลาด ข้อความสื่อสาร และการเปิดตัว AI สำหรับองค์กรของ SHI พัฒนาเครื่องมือสนับสนุนการขาย เนื้อหางานอีเวนต์ และเรื่องราวของลูกค้าเพื่อสนับสนุนการเติบโต

เปิด
Gramian Consulting

ผู้เชี่ยวชาญด้านการวิจัยและประเมินบทสนทนา AI

Gramian Consulting

Gramian Consulting กำลังรับสมัครผู้ประเมินบทสนทนา AI เพื่อยกระดับคุณภาพคำแนะนำจาก AI งานนี้ใช้การวิเคราะห์เชิงคุณภาพอย่างเป็นระบบเพื่อประเมินสถานการณ์ระหว่างบุคคลและระบุบริบทที่ขาดหายไป

เปิด
Gartner

ผู้อำนวยการอาวุโสด้านการจัดการข้อมูลเพื่อส่งเสริมการใช้ AI

Gartner

ที่ Gartner รับผิดชอบงานวิจัยและให้คำแนะนำแก่ผู้บริหารเกี่ยวกับแพลตฟอร์มการจัดการข้อมูลและการส่งเสริมการใช้ AI ให้คำปรึกษาผู้นำองค์กรผ่านข้อมูลเชิงลึก การนำเสนอ และการทำงานร่วมกับลูกค้า

เปิด
CDW

วิศวกรที่ปรึกษาซอฟต์แวร์ AI อาวุโส

CDW

นำโครงการ AI และ MLOps สำหรับลูกค้าของ CDW ตั้งแต่การออกแบบสถาปัตยกรรมโซลูชันจนถึงการส่งมอบ พร้อมให้คำแนะนำแก่วิศวกรและส่งมอบระบบใช้งานจริงที่ปลอดภัยและปรับขนาดได้

เปิด
CDW

วิศวกรที่ปรึกษาด้านโครงสร้างพื้นฐาน AI การประมวลผลและการจัดเก็บข้อมูล

CDW

ออกแบบและตรวจสอบโซลูชันประมวลผลด้วย GPU และระบบจัดเก็บข้อมูลประสิทธิภาพสูงสำหรับเวิร์กโหลด AI และแมชชีนเลิร์นนิงระดับองค์กร ช่วยลูกค้า CDW ติดตั้งโครงสร้างพื้นฐานสำหรับการฝึก การปรับแต่ง และการอนุมาน AI

เปิด
Salesforce

หัวหน้าด้านนวัตกรรม AI อาวุโส สาขาวิทยาศาสตร์ชีวภาพ

Salesforce

นำกลยุทธ์การส่งมอบ AI สำหรับสาขาวิทยาศาสตร์ชีวภาพของ Salesforce พัฒนาขีดความสามารถที่นำกลับมาใช้ซ้ำได้ และขับเคลื่อนการเปลี่ยนแปลงให้ลูกค้า ดูแลทีมงานระดับโลกที่ครอบคลุมฝ่ายผลิตภัณฑ์ วิศวกรรม และบริการระดับมืออาชีพ

เปิด