تطوّر شركة Hewlett Packard Enterprise تقنيات المؤسسات للجهات التي تدير عمليات هجينة قائمة على السحابة والذكاء الاصطناعي. وتشمل محفظتها خوادم HPE ProLiant وحوسبة HPE Cray عالية الأداء، ووحدات تخزين HPE Alletra، وحلول الشبكات HPE Aruba، ومنصات الذكاء الاصطناعي ومصانع الذكاء الاصطناعي الجاهزة، وحلول GreenLake المقدّمة كخدمة. كما توفر HPE إمكانات أمنية مثل Zero Trust وSASE، إلى جانب خدمات مهنية واستشارية ودعم تساعد المؤسسات الكبيرة على تحديث البنية التحتية، وإدارة بيئات مراكز البيانات، ونشر الذكاء الاصطناعي على نطاق واسع.
مهندس برمجيات أول للاستدلال في HPE Hybrid
قيادة تطوير بيئة تشغيل استدلال نماذج اللغة الكبيرة في HPE AI Essentials للبنية التحتية المملوكة للعملاء. تحسين تقديم النماذج بكفاءة على وحدات معالجة الرسومات، والتنفيذ الموزع، وتنسيق Kubernetes.
الولايات المتحدة
كولورادو
كارولاينا الشمالية
تكساس137,000 US$ – 315,000 US$ / سنة
هجيندوام كاملخبيراللغة المطلوبة: الإنجليزيةمهندس برمجياتمهندس متكاملالوصف
- تولّي ملكية المكونات الأساسية لنشر تقديم نماذج اللغة الكبيرة، بما في ذلك تكامل المحرك، والتجميع المستمر، وإدارة ذاكرة KV المؤقتة وإعادة استخدامها، والتنفيذ الكمي.
- التعاون مع فرق هندسة الاستدلال لتقليل زمن الوصول إلى الرمز الأول، وزمن الوصول بين الرموز، وإنتاجية وحدات معالجة الرسومات، وزمن الوصول في ذيول P95/P99.
- تطوير وتشغيل ميزات التنفيذ الموزع مثل الفصل بين التهيئة وفك الترميز، والتوازي على مستوى الموتر وخط الأنابيب، ونقل ذاكرة KV المؤقتة بين ذاكرة وحدة معالجة الرسومات، وذاكرة المضيف، والتخزين المتصل عبر RDMA.
- تقييم بيئات التشغيل الناشئة، وأساليب التكميم، وفك الترميز التخميني، وتقديم نماذج الخبراء المتعددين، ثم التوصية بالتقنيات المناسبة للاعتماد.
- المساعدة في بناء طبقة التنسيق التي تغطي قبول النماذج، وجدولة وحدات معالجة الرسومات وتقسيمها، وتوجيه الطلبات المدرك لذاكرة التخزين المؤقت، والتوسّع التلقائي.
- حل مشكلات العملاء من البداية إلى النهاية، وتحديد الأسباب الجذرية، وتعزيز الأنظمة والعمليات ذات الصلة.
- مراجعة التعليمات البرمجية والتصميمات، وإرشاد الزملاء، وتجسيد ممارسات هندسية قوية.
المتطلبات
- خبرة لا تقل عن 8 سنوات في هندسة البرمجيات.
- خبرة مباشرة لمدة سنة إلى سنتين أو أكثر في بيئات تشغيل استدلال نماذج اللغة الكبيرة أو تقديم النماذج في بيئات الإنتاج.
- درجة جامعية في علوم الحاسوب أو تخصص ذي صلة.
- الإلمام بمحركات استدلال نماذج اللغة الكبيرة مثل vLLM أو SGLang أو TensorRT-LLM أو TGI أو NVIDIA NIM، بما في ذلك الخبرة في تعديل المكونات الداخلية للمحرك.
- معرفة قوية بالتجميع المستمر، والانتباه المزوّد بالصفحات، وإعادة استخدام ذاكرة KV والتخزين المؤقت للبادئات، والتهيئة المجزأة، والتكميم، وفك الترميز التخميني.
- معرفة عملية بالتوازي على مستوى الموتر وخط الأنابيب، وعمليات التجميع في NCCL، وتسلسل ذاكرة وحدة معالجة الرسومات، وسلوك الوصلات البينية.
- إتقان متقدم لهندسة منصة Kubernetes، بما في ذلك المشغلات، والموارد المخصصة، ووحدات التحكم، والجدولة.
- مهارات قوية في البرمجة بلغة Go وPython.
- القدرة على قراءة التعليمات البرمجية بلغة C++ وCUDA وتصحيحها وتحليل أدائها باستخدام أدوات مثل Nsight.
- الإلمام بتصحيح أخطاء وتحليل أداء أعباء العمل متعددة الطبقات، بما في ذلك تطبيقات RAG والوكلاء.
- مهارات ممتازة في التحليل وتصحيح الأخطاء وحل المشكلات.
- مفضل: المساهمة في vLLM أو SGLang أو TensorRT-LLM أو llm-d أو LMCache أو KServe.
- مفضل: خبرة في تقديم الخدمة عبر التهيئة وفك الترميز المنفصلين أو نقل ذاكرة KV المؤقتة وإعادة استخدامها على نطاق واسع.
- مفضل: خبرة في RDMA أو GPUDirect Storage أو InfiniBand أو RoCE.
- مفضل: خبرة في MIG أو تخصيص وحدات معالجة الرسومات بشكل جزئي أو عزل وحدات معالجة الرسومات للمستخدمين المتعددين.
- مفضل: خبرة في تقديم البرمجيات للبيئات المؤسسية المحلية أو المعزولة عن الشبكات أو الخاضعة للتنظيم.
المزايا
- مزايا شاملة تدعم الصحة البدنية والأمان المالي والرفاه العاطفي.
- برامج تدعم النمو الشخصي والمهني.
- مرونة في ترتيبات العمل والاحتياجات الشخصية.
- ثقافة عمل شاملة.
- توفير التسهيلات المعقولة أثناء عملية التقديم أو المقابلة للمتقدمين المؤهلين من ذوي الإعاقة.