Baseten
Baseten
توفر Baseten بنية تحتية لاستدلال النماذج للشركات التي تنشر تطبيقات التعلم الآلي والذكاء الاصطناعي. صُممت منصتها لتقديم خدمة سريعة وقابلة للتوسع، إذ تجمع بين الاستدلال عالي الإنتاجية، والنشر السريع، والتوسع التلقائي، وتقديم النماذج بشكل آمن للمؤسسات، ودعم حزم النماذج مفتوحة المصدر. تساعد Baseten فرق الهندسة والتعلم الآلي على إدارة المتطلبات التشغيلية للبنية التحتية للنماذج، مما يتيح لها التركيز على تطوير نماذج متخصصة بالمجال. تعمل الشركة في مجالات الذكاء الاصطناعي والبرمجيات كخدمة وتقنيات المؤسسات، ويضم فريقها من 11 إلى 50 موظفًا.

مدير هندسة أداء الاستدلال باستخدام وحدات معالجة الرسومات في Baseten

قد مسؤولية هندسة أداء الاستدلال باستخدام وحدات معالجة الرسومات في Baseten، وهي شركة للبنية التحتية للذكاء الاصطناعي. وجّه تحسين وقت التشغيل وكفاءة النماذج ونمو فريق تقني متخصص.

الوصف

  • إدارة مهندسي أداء الاستدلال وتوجيههم وتطويرهم من خلال الاجتماعات الفردية المنتظمة والتغذية الراجعة والتخطيط المهني وتقييمات الأداء
  • استقطاب مهندسي وحدات معالجة الرسومات والاستدلال مع تعزيز ثقافة العمل التعاوني
  • امتلاك خارطة طريق أداء وقت التشغيل وتنفيذها
  • مراجعة التصاميم التقنية وتوجيه أعمال التنميط والتحسين ومساعدة المهندسين على تقييم استخدام الوقت والذاكرة
  • تحويل التكميم وفك الترميز التخميني وإعادة استخدام ذاكرة KV والتهيئة المسبقة المجزأة والجدولة المخصصة إلى حلول جاهزة للإنتاج
  • ترجمة مكاسب الأداء إلى تحسينات قابلة للقياس في عدد الرموز لكل ساعة من ساعات وحدة معالجة الرسومات والاستخدام وزمن الاستجابة والتكلفة
  • إدخال معماريات نماذج جديدة إلى الأجهزة الناشئة وضبط أدائها
  • التعاون مع فرق البنية التحتية ومنصة الاستدلال والنوى البرمجية وواجهات برمجة النماذج والفرق المتعاملة مع العملاء لتحديد الأولويات وتنسيق الإطلاقات وتحقيق التحسينات
  • وضع معايير هندسية للجودة والقياس المعياري والتميز التشغيلي والاستجابة للحوادث
  • تطوير تحسين استدلال الوكلاء والنوى البرمجية الوكيلة وتدريب النماذج على فك الترميز التخميني ومكدس استدلال Baseten

المتطلبات

  • درجة بكالوريوس أو ماجستير أو دكتوراه في علوم الحاسوب أو الهندسة أو الرياضيات أو تخصص ذي صلة
  • خبرة إدارية تشمل التوظيف الهندسي والتوجيه والتغذية الراجعة وتقييمات الأداء
  • خبرة في قيادة فرق تحسين وحدات معالجة الرسومات أو دعمها عن قرب في التدريب أو الاستدلال أو أنظمة التوصية
  • معرفة تقنية عميقة بأعباء عمل وحدات معالجة الرسومات وبنيتها والمفاضلات المتعلقة بالأداء
  • إلمام بمكتبات تعلم الآلة، بما في ذلك PyTorch أو TensorRT أو TensorRT-LLM
  • قدرة مثبتة على وضع خرائط الطريق وتسليم مشاريع تقنية معقدة ضمن فريق
  • مهارات قوية في التواصل الكتابي والشفهي لمواءمة أصحاب المصلحة عبر الفرق
  • إلمام بمحركات الاستدلال مثل vLLM أو SGLang أو TensorRT-LLM
  • خبرة في تطبيق أساليب تحسين النماذج اللغوية الكبيرة مثل التكميم وفك الترميز التخميني والتجميع المستمر
  • خبرة في تطوير نوى وحدات معالجة الرسومات أو العمل بها باستخدام CUDA أو Triton أو CUTLASS
  • خبرة في توسيع فريق هندسي خلال نمو سريع لشركة ناشئة
  • خبرة عملية سابقة كمهندس أداء أو مهندس أنظمة قبل الانتقال إلى الإدارة

المزايا

  • حزمة تعويضات تنافسية تتضمن حصة ملكية ذات قيمة
  • للموظفين في الولايات المتحدة، تغطية طبية وتغطية أسنان وبصر كاملة للموظفين والمعالين
  • إجازة مدفوعة مرنة، تشمل عطلة شتوية على مستوى الشركة
  • إجازة والدية مدفوعة
  • دعم الخصوبة وبناء الأسرة من خلال Carrot
  • للموظفين في الولايات المتحدة، خطة 401(k) تيسّرها الشركة
  • فرص للعمل مع مجموعة من الشركات الناشئة في مجال تعلم الآلة وبناء علاقات مهنية في القطاع