adaption พัฒนาระบบและเครื่องมือ AI แบบปรับตัวได้ ซึ่งออกแบบมาเพื่อปรับแต่งความสามารถด้านปัญญาประดิษฐ์ให้เหมาะกับผู้ใช้แต่ละราย ภาษา อุตสาหกรรม และกรณีเฉพาะทางต่าง ๆ งานของบริษัทครอบคลุมข้อมูลแบบปรับตัวได้ ปัญญาประดิษฐ์แบบปรับตัวได้ และอินเทอร์เฟซแบบปรับตัวได้ แนวทางเหล่านี้ช่วยให้โมเดลปรับเปลี่ยนอย่างต่อเนื่องและรองรับประสบการณ์ผู้ใช้ที่ตอบสนองได้ดียิ่งขึ้น โดยไม่ต้องพึ่งพาการเขียนพรอมต์ด้วยตนเองหรือโมเดลขนาดใหญ่เพียงชุดเดียวมากเกินไป เทคโนโลยีของบริษัทมีความเกี่ยวข้องกับองค์กรที่กำลังสำรวจการประยุกต์ใช้ AI ในทางปฏิบัติในด้านต่าง ๆ เช่น การให้คำปรึกษา โลจิสติกส์ และการตลาด
วิศวกรระบบอนุมาน — Adaption (ไฮบริด, บริเวณอ่าวซานฟรานซิสโก)
เพิ่มประสิทธิภาพโครงสร้างพื้นฐานระบบอนุมานเพื่อเพิ่มปริมาณงาน ลดต้นทุน และลดเวลาแฝงที่ Adaption บริษัท AI ซึ่งพัฒนาระบบปัญญาประดิษฐ์แบบปรับตัวได้ ปรับปรุงการให้บริการโมเดลบน GPU เครื่องมืออนุมาน และเวิร์กโหลดการใช้งานจริง
รายละเอียด
- รับผิดชอบหลักด้านต้นทุนและประสิทธิภาพของสแตกระบบอนุมาน
- เพิ่มปริมาณงานและลดต้นทุนรวมถึงเวลาแฝงส่วนหางด้วยการจัดการแคช KV, continuous batching, speculative decoding และ quantization
- เพิ่มประสิทธิภาพเวิร์กโหลด prefill และ decode สำหรับบริบทขนาดยาวโดยอิงจากทราฟฟิกการใช้งานจริง
- ปรับการกำหนดเส้นทางระหว่างโครงสร้างพื้นฐานภายในกับผู้ให้บริการภายนอกตามต้นทุน ความจุ และประสิทธิภาพ
- ใช้เอนจินให้บริการโมเดล เช่น vLLM, SGLang และ TensorRT-LLM โดยทำงานในระดับใต้เฟรมเวิร์กเมื่อจำเป็น
- พัฒนาระบบ profiling และการวัดผลเพื่อระบุการใช้เวลา หน่วยความจำ และทรัพยากรคำนวณ
- ทำงานร่วมกันอย่างใกล้ชิดกับวิศวกรที่รับผิดชอบฟลีตให้บริการโมเดล
คุณสมบัติ
- มีประสบการณ์อย่างน้อยห้าปีด้านระบบ ML โครงสร้างพื้นฐานระบบอนุมาน หรือวิศวกรรมประสิทธิภาพ พร้อมผลงานที่วัดผลได้ในการลดต้นทุนหรือเวลาแฝง
- มีความรู้เชิงลึกเกี่ยวกับการให้บริการโมเดล รวมถึง prefill และ decode, แบนด์วิดท์หน่วยความจำ, batching และการทำงานพร้อมกัน
- มีประสบการณ์ใช้งานจริงกับเอนจินให้บริการโมเดล เช่น vLLM, SGLang หรือ TensorRT-LLM
- ใช้ Python ได้อย่างมั่นใจ และมีความชำนาญใน C++, Rust หรือภาษาโปรแกรมระบบอื่น
- เข้าใจประเด็นด้านประสิทธิภาพของ GPU รวมถึง CUDA, NCCL, mixed precision, การจัดวางหน่วยความจำ, kernels หรือ quantization
- สามารถทำงานที่บริเวณอ่าวซานฟรานซิสโกได้ตามรูปแบบการทำงานแบบไฮบริด
สวัสดิการ
- ผสานการทำงานร่วมกันแบบพบหน้าที่บริเวณอ่าวซานฟรานซิสโกเข้ากับทีมแบบกระจายตัวที่ทำงานโดยให้ความสำคัญกับทั่วโลก และการพบปะนอกสถานที่ของทีม
- รับเงินสนับสนุนการเดินทาง Adaption Passport ประจำปีเพื่อสำรวจประเทศที่คุณไม่เคยไปมาก่อน
- รับเงินสนับสนุนรายสัปดาห์สำหรับอาหารสั่งกลับบ้านหรือบริการจัดส่งของชำ
- เข้าถึงความคุ้มครองทางการแพทย์แบบครบถ้วนและวันลาที่ได้รับค่าจ้างอย่างเพียงพอ