توفر Baseten بنية تحتية لاستدلال النماذج للشركات التي تنشر تطبيقات التعلم الآلي والذكاء الاصطناعي. صُممت منصتها لتقديم خدمة سريعة وقابلة للتوسع، إذ تجمع بين الاستدلال عالي الإنتاجية، والنشر السريع، والتوسع التلقائي، وتقديم النماذج بشكل آمن للمؤسسات، ودعم حزم النماذج مفتوحة المصدر. تساعد Baseten فرق الهندسة والتعلم الآلي على إدارة المتطلبات التشغيلية للبنية التحتية للنماذج، مما يتيح لها التركيز على تطوير نماذج متخصصة بالمجال. تعمل الشركة في مجالات الذكاء الاصطناعي والبرمجيات كخدمة وتقنيات المؤسسات، ويضم فريقها من 11 إلى 50 موظفًا.
مهندس برمجيات، منصة استدلال نماذج اللغة الكبيرة - Baseten بنظام هجين
ساهم في بناء منصة Baseten الموزعة لاستدلال نماذج اللغة الكبيرة لشركات الذكاء الاصطناعي. اعمل على تنسيق Kubernetes وواجهات النماذج البرمجية والتوجيه والتوسع التلقائي وإمكانية المراقبة في بيئات الإنتاج.
الولايات المتحدة
كاليفورنيا
نيويورك
واشنطن180,000 US$ – 360,000 US$ / سنة
هجيندوام كاملمتوسطخبيراللغة المطلوبة: الإنجليزيةمهندس برمجياتمهندس متكاملالوصف
- بناء البنية التحتية والتنسيق لاستدلال نماذج اللغة الكبيرة الموزع على نطاق واسع، بما يشمل التوجيه والتوسع التلقائي والجدولة وإدارة وقت التشغيل.
- تطوير واجهات برمجية للنماذج وتشغيلها، مع دعم المخرجات المهيكلة واستدعاء الأدوات والوظائف وتقديم الخدمات متعددة الوسائط.
- تنفيذ إصدار الواجهات البرمجية والتحقق من الطلبات وقياس الاستخدام والحصص والمصادقة.
- إنشاء أدوات قياس للبيانات والمقاطع الزمنية والسجلات، إلى جانب معايير قابلة للتكرار للسرعة والموثوقية والجودة.
- وضع ممارسات قوية للاختبار وأتمتة الإصدارات والتميز التشغيلي.
- تشخيص أنظمة الإنتاج وتعزيزها عبر Kubernetes وبيئات التشغيل الموزعة والشبكات وأحمال GPU.
- التعاون مع مهندسي أداء الاستدلال والفرق الشريكة لتقديم تحسينات موجهة للعملاء.
- قيادة المشاريع بدءًا من البنية والنشر وصولًا إلى المراقبة والتكرار المستند إلى ملاحظات العملاء.
- تحقيق التوازن بين أداء الأنظمة وموثوقيتها وبساطتها التشغيلية وتجربة المطور.
المتطلبات
- درجة بكالوريوس أو ماجستير أو دكتوراه في علوم الحاسوب أو الهندسة أو مجال ذي صلة، أو خبرة عملية معادلة.
- خبرة لا تقل عن ثلاث سنوات في بناء وتشغيل الأنظمة الموزعة أو البنية التحتية الخلفية أو واجهات برمجية واسعة النطاق، حيث تكون الموثوقية وزمن الاستجابة والتوسع عوامل حاسمة.
- إثبات القدرة على امتلاك خدمات خلفية موثوقة ومنخفضة زمن الاستجابة تتضمن تحديد المعدل والمصادقة والحصص وقياس الاستخدام وعمليات الترحيل.
- حكم قوي في مجال البنية التحتية، بما في ذلك الخبرة في تحديد مواطن الاختناق والتتبع وتخطيط السعة وإدارة أهداف مستوى الخدمة.
- القدرة على تشخيص مشكلات الأداء والموثوقية عبر طبقات التطبيق وبيئة التشغيل والبنية التحتية.
- تركيز قوي على تجربة المطور.
- الاستعداد لتعلم لغات وأطر وأنظمة جديدة، مع اهتمام بهندسة الاستدلال.
- مهارات ممتازة في التواصل الكتابي والتعاون، بما في ذلك توثيق التصاميم بوضوح والعمل الفعال مع الفرق متعددة الوظائف.
- تُعد الخبرة في محركات أو أطر استدلال نماذج اللغة الكبيرة مثل vLLM أو SGLang أو TensorRT-LLM أو TGI أو Dynamo، أو المساهمة فيها، ميزة إضافية.
- خبرة عميقة في Kubernetes، بما في ذلك المشغلات والموارد المخصصة؛ وتُعد المعرفة بشبكات الخدمات أو بوابات الواجهات البرمجية ميزة إضافية.
- تُعد الخبرة في الجدولة الموزعة أو التوسع التلقائي أو تنسيق الخدمات ميزة إضافية.
- تُعد الخبرة في تشغيل أحمال GPU في بيئات الإنتاج ميزة إضافية.
- تُعد الخلفية في البنية التحتية أو الواجهات البرمجية الموجهة للمطورين، أو المساهمات في البنية التحتية مفتوحة المصدر أو أنظمة التعلم الآلي، ميزة إضافية.
- تُعد المعرفة بأدوات إمكانية المراقبة أو أنظمة التكامل والنشر المستمر أو أتمتة الإصدارات ميزة إضافية.
المزايا
- تعويضات تنافسية مع حصة ملكية ذات قيمة.
- للموظفين في الولايات المتحدة والمعالين، تغطية كاملة لتأمينات الصحة والأسنان والبصر.
- إجازة مدفوعة مرنة، بما في ذلك عطلة شتوية على مستوى الشركة.
- إجازة والدية مدفوعة.
- دعم الخصوبة وتكوين الأسرة من خلال بدل Carrot.
- للموظفين في الولايات المتحدة، خطة 401(k) تديرها الشركة.
- التعرض لمجموعة متنوعة من الشركات الناشئة في مجال التعلم الآلي، مما يوفر فرصًا كبيرة للتعلم وبناء العلاقات المهنية.