توفر Baseten بنية تحتية لاستدلال النماذج للشركات التي تنشر تطبيقات التعلم الآلي والذكاء الاصطناعي. صُممت منصتها لتقديم خدمة سريعة وقابلة للتوسع، إذ تجمع بين الاستدلال عالي الإنتاجية، والنشر السريع، والتوسع التلقائي، وتقديم النماذج بشكل آمن للمؤسسات، ودعم حزم النماذج مفتوحة المصدر. تساعد Baseten فرق الهندسة والتعلم الآلي على إدارة المتطلبات التشغيلية للبنية التحتية للنماذج، مما يتيح لها التركيز على تطوير نماذج متخصصة بالمجال. تعمل الشركة في مجالات الذكاء الاصطناعي والبرمجيات كخدمة وتقنيات المؤسسات، ويضم فريقها من 11 إلى 50 موظفًا.
مهندس برمجيات لأداء الاستدلال في Baseten (نظام هجين)
توظّف Baseten مهندسًا لأداء الاستدلال لتحسين أوقات تشغيل النماذج اللغوية الكبيرة، ونوى GPU، وأنظمة تقديم النماذج. يركّز الدور على تسريع الاستدلال في الإنتاج، وتحسين الاستفادة من العتاد، ورفع كفاءة التكلفة.
الولايات المتحدة
كاليفورنيا
نيويورك
واشنطن180,000 US$ – 360,000 US$ / سنة
هجيندوام كاملمتوسطخبيراللغة المطلوبة: الإنجليزيةمهندس برمجياتمهندس متكاملالوصف
- تحويل أساليب الاستدلال المتقدمة إلى حلول جاهزة للإنتاج، مثل التكميم، وفك الترميز التخميني، وإعادة استخدام ذاكرة KV، والتهيئة المسبقة المجمّعة، وLoRA، والتوليد الموجّه، والجدولة أو التوجيه المخصّص.
- تحليل مسار الاستدلال الكامل وتحسين الحمل الزائد للنوى، وتوزيع الذاكرة، وجدولة الطلبات، وفصل التهيئة المسبقة عن فك الترميز، والتوجيه المدرك لذاكرة التخزين المؤقت.
- زيادة عدد الرموز لكل ساعة من ساعات GPU ومعدل الاستفادة منها، مع تحقيق التوازن بين زمن الاستجابة ومعدل الإنتاجية والتكلفة.
- نشر بنيات النماذج الناشئة وتحسينها على منصات عتاد جديدة.
- إنشاء معايير أداء تشمل أنواع النماذج، وأحجام الدفعات، وأطوال التسلسلات، وإعدادات العتاد.
- تقديم تحسينات إلى مشاريع الاستدلال مفتوحة المصدر، بما في ذلك vLLM وSGLang وTensorRT-LLM.
- العمل مع فرق النماذج والبنية التحتية والفرق المتعاملة مع العملاء لتحقيق مكاسب أداء قابلة للقياس.
المتطلبات
- درجة بكالوريوس أو ماجستير أو دكتوراه في علوم الحاسوب أو الهندسة أو الرياضيات أو تخصص ذي صلة.
- خبرة مهنية في لغة برمجة واحدة عامة الاستخدام على الأقل، مثل Python أو C++.
- معرفة عملية بأساليب تحسين النماذج اللغوية الكبيرة، مثل التكميم وفك الترميز التخميني والتجميع المستمر.
- إتقان قوي لمكتبات التعلم الآلي، ولا سيما PyTorch أو TensorRT أو TensorRT-LLM.
- اهتمام مثبت بالنماذج اللغوية الكبيرة وخبرة عملية بها.
- فهم متعمق لبنية GPU.
المزايا
- حزمة أجور تنافسية مع مشاركة مؤثرة في حقوق الملكية.
- بالنسبة إلى الموظفين في الولايات المتحدة، تشمل التغطية الكاملة للتأمين الطبي وتأمين الأسنان والبصر الموظفين والمعالين.
- إجازة مدفوعة مرنة، إضافة إلى عطلة شتوية على مستوى الشركة.
- إجازة والدية مدفوعة.
- دعم الخصوبة وتكوين الأسرة من خلال بدل Carrot.
- بالنسبة إلى الموظفين في الولايات المتحدة، خطة 401(k) تديرها الشركة.
- فرص للعمل مع مجموعة متنوعة من الشركات الناشئة في مجال التعلم الآلي، بما يدعم التعلم الواسع وبناء شبكة مهنية.