วิศวกรวิจัยด้านอัลกอริทึมสำหรับฮาร์ดแวร์ประมวลผลอนุมาน LLM
พัฒนาอัลกอริทึมสำหรับการประมวลผลอนุมาน LLM บนฮาร์ดแวร์ AI แบบประมวลผลในหน่วยความจำของ Normal Computing ทำงานร่วมกับทีมฮาร์ดแวร์และสถาปัตยกรรมเพื่อออกแบบวิธีเชิงตัวเลข เกณฑ์มาตรฐาน และต้นแบบร่วมกัน
รายละเอียด
- พัฒนาอัลกอริทึมสำหรับเวิร์กโหลดการประมวลผลอนุมาน LLM บนฮาร์ดแวร์แบบประมวลผลในหน่วยความจำ
- ทำงานร่วมกับทีมฮาร์ดแวร์และสถาปัตยกรรมในการออกแบบซอฟต์แวร์และฮาร์ดแวร์ร่วมกัน
- สร้างวิธีเชิงตัวเลขที่ใช้ประโยชน์จากสัญญาณรบกวนความร้อนและพลวัตแบบแอนะล็อก
- สร้างกรอบการประเมินและเกณฑ์มาตรฐานสำหรับการจำลองและฮาร์ดแวร์จริง
- นำข้อมูลเชิงลึกเกี่ยวกับเวิร์กโหลดของโมเดลมาแปลงเป็นข้อกำหนดและโอกาสในการออกแบบฮาร์ดแวร์
- สร้างต้นแบบและปรับปรุงอัลกอริทึมขณะที่ฮาร์ดแวร์พัฒนาจากการจำลองไปสู่ซิลิคอน
- เพิ่มประสิทธิภาพทั้งในระดับเกตและระดับอัลกอริทึม
- ทดสอบอัลกอริทึมด้วยตัวจำลอง ต้นแบบ FPGA และซิลิคอนเมื่อพร้อมใช้งาน
คุณสมบัติ
- มีความรู้เชิงลึกด้านการประมวลผลอนุมานของโมเดลขนาดใหญ่ รวมถึงกลไก attention, KV cache, การถอดรหัสบริบทยาว และข้อจำกัดด้านแบนด์วิดท์หน่วยความจำ
- มีประสบการณ์เพิ่มประสิทธิภาพการประมวลผลอนุมานด้วยเทคนิคต่าง ๆ เช่น การควอนไทซ์ ความเบาบาง การรวม kernel หรือ attention ที่ใช้หน่วยความจำอย่างมีประสิทธิภาพ
- คุ้นเคยกับระบบสุ่ม วิธีการเชิงความน่าจะเป็น การวิเคราะห์เชิงตัวเลข หรือการคำนวณแบบแอนะล็อก
- มีประสบการณ์นำอัลกอริทึมไปใช้งานในระดับใกล้เคียงฮาร์ดแวร์ แทนการพึ่งพาเฟรมเวิร์กระดับสูงเพียงอย่างเดียว
- สามารถใช้เหตุผลจากหลักการพื้นฐานเกี่ยวกับแพลตฟอร์มการคำนวณรูปแบบใหม่
- แสดงให้เห็นว่าสามารถต่อยอดแนวคิดจากทฤษฎีไปสู่การใช้งานบนฮาร์ดแวร์จริงได้
- มีทักษะ Python ที่แข็งแกร่ง และเชี่ยวชาญภาษาโปรแกรมระบบอย่างน้อยหนึ่งภาษา
- สามารถทำงานร่วมกับทีมฮาร์ดแวร์ สถาปัตยกรรม และซอฟต์แวร์ได้
- วุฒิปริญญาเอกด้านแมชชีนเลิร์นนิง คณิตศาสตร์ประยุกต์ ฟิสิกส์ วิศวกรรมไฟฟ้า หรือสาขาที่เกี่ยวข้อง จะได้รับการพิจารณาเป็นพิเศษ
- มีประสบการณ์เกี่ยวกับระบบแอนะล็อกหรือสัญญาณผสม การประมวลผลในหน่วยความจำ หรือสถาปัตยกรรมที่ไม่ใช่แบบ von Neumann จะได้รับการพิจารณาเป็นพิเศษ
- มีประสบการณ์ทำงานกับฮาร์ดแวร์ที่ยังอยู่ระหว่างการพัฒนาในช่วงที่เข้าร่วมงาน จะได้รับการพิจารณาเป็นพิเศษ
- มีผลงานตีพิมพ์หรือผลงานโอเพนซอร์สด้านการประมวลผลอนุมานที่มีประสิทธิภาพ อัลกอริทึมสุ่ม หรือการประมวลผลรูปแบบใหม่ จะได้รับการพิจารณาเป็นพิเศษ
สวัสดิการ
- สถานที่ทำงานที่เปิดกว้างและมุ่งมั่นต่อความหลากหลาย
- มีการจัดสิ่งอำนวยความสะดวกที่เหมาะสมสำหรับผู้พิการ
- ได้รับความคุ้มครองตามหลักโอกาสการจ้างงานที่เท่าเทียม
งานที่เกี่ยวข้อง
ไม่พบงาน
ลองปรับหรือล้างตัวกรองเพื่อค้นหาโอกาสเพิ่มเติม