Baseten
Baseten
Baseten ให้บริการโครงสร้างพื้นฐานสำหรับการอนุมานโมเดลแก่บริษัทที่พัฒนาและใช้งานแอปพลิเคชันแมชชีนเลิร์นนิงและ AI แพลตฟอร์มของบริษัทออกแบบมาเพื่อให้บริการโมเดลได้อย่างรวดเร็วและรองรับการขยายตัว โดยผสานการอนุมานที่มีปริมาณงานสูง การปรับใช้ที่รวดเร็ว การปรับขนาดอัตโนมัติ การให้บริการโมเดลระดับองค์กรที่ปลอดภัย และการรองรับการแพ็กเกจโมเดลโอเพนซอร์ส Baseten ช่วยให้ทีมวิศวกรรมและแมชชีนเลิร์นนิงจัดการความต้องการด้านการดำเนินงานของโครงสร้างพื้นฐานโมเดล เพื่อให้ทีมสามารถมุ่งเน้นการพัฒนาโมเดลเฉพาะด้านได้ บริษัทดำเนินงานในด้านปัญญาประดิษฐ์ SaaS และเทคโนโลยีองค์กร โดยมีพนักงาน 11–50 คน

วิศวกรซอฟต์แวร์ด้านประสิทธิภาพการอนุมานที่ Baseten (ทำงานแบบไฮบริด)

Baseten กำลังรับสมัครวิศวกรด้านประสิทธิภาพการอนุมานเพื่อเพิ่มประสิทธิภาพรันไทม์ของ LLM, เคอร์เนล GPU และระบบให้บริการโมเดล บทบาทนี้มุ่งพัฒนาความเร็วการอนุมานในระบบจริง การใช้ประโยชน์จากฮาร์ดแวร์ และประสิทธิภาพด้านต้นทุน

รายละเอียด

  • นำวิธีการอนุมานขั้นสูง เช่น quantization, speculative decoding, การนำ KV cache กลับมาใช้, chunked prefill, LoRA, guided generation และการจัดตารางหรือกำหนดเส้นทางแบบกำหนดเองไปใช้งานจริง
  • วิเคราะห์ไปป์ไลน์การอนุมานทั้งหมด โดยเพิ่มประสิทธิภาพโอเวอร์เฮดของเคอร์เนล การจัดวางหน่วยความจำ การจัดตารางคำขอ การแยก prefill และ decode รวมถึงการกำหนดเส้นทางที่คำนึงถึงแคช
  • เพิ่มจำนวนโทเค็นต่อ GPU-hour และอัตราการใช้ประโยชน์ โดยรักษาสมดุลระหว่างเวลาแฝง ปริมาณงาน และต้นทุน
  • ติดตั้งใช้งานและเพิ่มประสิทธิภาพสถาปัตยกรรมโมเดลรุ่นใหม่บนแพลตฟอร์มฮาร์ดแวร์ใหม่
  • สร้าง benchmark ที่ครอบคลุมประเภทโมเดล ขนาดแบตช์ ความยาวลำดับ และการตั้งค่าฮาร์ดแวร์ที่หลากหลาย
  • ส่งการปรับปรุงไปยังโครงการอนุมานแบบโอเพนซอร์ส เช่น vLLM, SGLang และ TensorRT-LLM
  • ทำงานร่วมกับทีมโมเดล โครงสร้างพื้นฐาน และทีมที่ดูแลลูกค้า เพื่อส่งมอบการเพิ่มประสิทธิภาพที่วัดผลได้

คุณสมบัติ

  • วุฒิปริญญาตรี โท หรือเอกด้านวิทยาการคอมพิวเตอร์ วิศวกรรมศาสตร์ คณิตศาสตร์ หรือสาขาที่เกี่ยวข้อง
  • มีประสบการณ์ทำงานกับภาษาโปรแกรมอเนกประสงค์อย่างน้อยหนึ่งภาษา รวมถึง Python หรือ C++
  • มีความรู้เชิงปฏิบัติเกี่ยวกับวิธีเพิ่มประสิทธิภาพ LLM เช่น quantization, speculative decoding และ continuous batching
  • เชี่ยวชาญไลบรารีแมชชีนเลิร์นนิง โดยเฉพาะ PyTorch, TensorRT หรือ TensorRT-LLM
  • มีความสนใจและประสบการณ์เชิงปฏิบัติกับโมเดลภาษาขนาดใหญ่
  • เข้าใจสถาปัตยกรรม GPU อย่างถ่องแท้

สวัสดิการ

  • แพ็กเกจค่าตอบแทนที่แข่งขันได้ พร้อมโอกาสได้รับส่วนร่วมในหุ้นของบริษัทอย่างมีนัยสำคัญ
  • สำหรับพนักงานในสหรัฐอเมริกา บริษัทมีประกันสุขภาพ ทันตกรรม และสายตาแบบครอบคลุมสำหรับพนักงานและผู้ติดตาม
  • วันหยุดโดยได้รับค่าจ้างที่ยืดหยุ่น พร้อมช่วงหยุดฤดูหนาวทั่วทั้งบริษัท
  • สิทธิลาเพื่อเลี้ยงดูบุตรโดยได้รับค่าจ้าง
  • การสนับสนุนด้านภาวะเจริญพันธุ์และการสร้างครอบครัวผ่านเงินช่วยเหลือจาก Carrot
  • สำหรับพนักงานในสหรัฐอเมริกา มีแผน 401(k) ที่บริษัทอำนวยความสะดวก
  • โอกาสทำงานกับสตาร์ทอัพด้านแมชชีนเลิร์นนิงหลากหลายราย ช่วยส่งเสริมการเรียนรู้และการสร้างเครือข่ายทางวิชาชีพอย่างมาก

งานที่เกี่ยวข้อง

Salesforce

ผู้อำนวยการอาวุโส สถาปนิกโซลูชันการขายบริการ

Salesforce

เป็นผู้นำการออกแบบโซลูชันก่อนการขายสำหรับลูกค้าภาครัฐที่ใช้ Salesforce Core/PSS และ Data 360 กำหนดขอบเขตการใช้งานที่ซับซ้อน ให้คำปรึกษาผู้บริหาร และพัฒนาสถาปนิกโซลูชัน

เปิด
Mirantis

สถาปนิกโซลูชันเครือข่ายโครงสร้างพื้นฐาน AI อาวุโส

Mirantis

ออกแบบเครือข่ายคลัสเตอร์ GPU สำหรับแพลตฟอร์มโครงสร้างพื้นฐาน AI แบบ Kubernetes-native ของ Mirantis สร้างสถาปัตยกรรมอ้างอิง ระบบอัตโนมัติ และการพิสูจน์แนวคิดสำหรับ k0rdent AI

เปิด
Mirantis

สถาปนิกโซลูชันเครือข่ายโครงสร้างพื้นฐาน AI อาวุโส ที่ Mirantis

Mirantis

ออกแบบเครือข่ายคลาวด์ GPU ให้ Mirantis และแพลตฟอร์ม AI k0rdent สร้างสถาปัตยกรรมอ้างอิง ระบบอัตโนมัติ และโครงการพิสูจน์แนวคิดสำหรับโครงสร้างพื้นฐาน AI ขนาดใหญ่

เปิด
Turner & Townsend

สถาปนิกโครงการ ด้านสถานีปฏิบัติการรถยนต์ไฟฟ้า

Turner & Townsend

ออกแบบสถานีปฏิบัติการรถยนต์ไฟฟ้าด้วย BIM ให้กับ Turner & Townsend จัดทำเอกสารสถาปัตยกรรมที่ประสานงานกันสำหรับโครงการต้นแบบหลายโครงการ

เปิด
INDIE Solutions GmbH

สถาปนิกระบบ Pega หัวหน้าทีมอาวุโส

INDIE Solutions GmbH

เป็นผู้นำด้านสถาปัตยกรรมและการส่งมอบโซลูชัน Pega ที่ขยายรองรับการเติบโตได้ สำหรับบริษัทเทคโนโลยีและดิจิทัลในเยอรมนี กำหนดทิศทางการดำเนินโครงการ งานก่อนการขาย และการเติบโตของทีม Pega

เปิด
S + S Regeltechnik GmbH

สถาปนิกระบบ

S + S Regeltechnik GmbH

ออกแบบโครงสร้างพื้นฐานที่ปลอดภัยและมีประสิทธิภาพสูงให้กับ SINC ผู้ให้บริการ GovTech พร้อมให้คำปรึกษาแก่ลูกค้าภาครัฐในเยอรมนี ดูแลตั้งแต่วางแผนสถาปัตยกรรมไปจนถึงการนำไปใช้งาน

เปิด
Alliance Health

นักวิเคราะห์ธุรกิจด้าน CRM และไอที

Alliance Health

รวบรวมความต้องการ ทดสอบ และปรับปรุงโซลูชัน Salesforce ให้ Alliance Health ตำแหน่งนี้อยู่ในรัฐนอร์ทแคโรไลนา ทำงานทางไกลเป็นหลัก และเข้าไปที่สำนักงานของ Alliance เป็นครั้งคราว

เปิด
workidentity GmbH

สถาปนิกโซลูชันระดับองค์กร ด้านกระบวนการและชุดเครื่องมือ EAM

workidentity GmbH

กำหนดกระบวนการและชุดเครื่องมือบริหารสถาปัตยกรรมองค์กรให้กับกลุ่มธุรกิจบริการระดับนานาชาติ รับผิดชอบการเชื่อมต่อ คุณภาพข้อมูล และระดับความ成熟ของกระบวนการ

เปิด
HII

สถาปนิกเรือระดับเริ่มต้น I – HII, Pascagoula, MS

HII

สนับสนุนโครงการต่อเรือของกองทัพเรือ HII ด้วยการออกแบบและวิเคราะห์เสถียรภาพเรือ รูปทรงตัวเรือ การจัดวาง และการเคลื่อนย้ายในอู่ต่อเรือ ตำแหน่งระดับเริ่มต้นนี้มีส่วนร่วมในหลายโครงการของกองทัพเรือ

เปิด
Salesforce

สถาปนิกความสำเร็จของลูกค้าที่ผ่านคุณสมบัติ ด้านการพัฒนาบุคลากรภายในที่ Salesforce

Salesforce

ดูแลการปฐมนิเทศ การรับรอง และการฝึกอบรมสดให้ทีม Customer Success ของ Salesforce จัดการแหล่งความรู้เกี่ยวกับผลิตภัณฑ์สำหรับแพลตฟอร์มการตลาด AI ของ Qualified

เปิด