Cerebras
Cerebras
تطوّر Cerebras عتادًا للذكاء الاصطناعي على مستوى الرقاقة وبرمجيات متكاملة لتدريب النماذج عالية الأداء وتشغيلها. ويشغّل محرّك Wafer-Scale Engine نظام CS-3 وسحابة Cerebras Inference Cloud، التي تدعم سير العمل المتوافق مع واجهة OpenAI API والنشر في البيئات المحلية والسحابية وبيئات الحافة. صُمّمت منصة الشركة لتطبيقات تشمل تقديم النماذج، والضبط الدقيق، والتدريب المسبق، ووكلاء الذكاء الاصطناعي في الوقت الفعلي، وعلم الجينوم، واكتشاف الأدوية، والأمن السيبراني، والبحث المؤسسي. وتجمع Cerebras بين الرقائق والأنظمة والبرمجيات المتخصصة لتمكين المؤسسات من بناء أعباء عمل الذكاء الاصطناعي المتطلبة وتشغيلها، ويعمل لديها فريق يضم 501–1,000 موظف.

مهندس تعلم آلي، تهيئة النماذج

انقل نماذج المحولات إلى أجهزة تسريع الذكاء الاصطناعي من Cerebras وحسّن أداء استدلالها. طوّر مسارات مترجم MLIR مع تحسين صحة النماذج وزمن الاستجابة ومعدل المعالجة وكفاءة الذاكرة.

الوصف

  • أدخل نماذج جديدة إلى الإنتاج من خلال تحليل البنى، وتحويل الأوزان، وتنفيذ مسارات التشغيل، والتحقق من النتائج مقابل تطبيقات مرجعية.
  • حوّل النماذج إلى أجهزة Cerebras باستخدام لهجات MLIR وتحويلات الرسوم البيانية ومراحل الخفض والتعيينات الخاصة بالأجهزة.
  • ادعم الانتباه وضرب المصفوفات والتطبيع والتضمينات الموضعية وغيرها من العمليات من خلال تطوير المترجمات والنوى.
  • حسّن دمج العمليات وتخطيطات الموترات والتقسيم إلى كتل وتخصيص الذاكرة ونقل البيانات والتنفيذ المتوازي.
  • حسّن أداء مرحلتي التهيئة وفك الترميز عبر ضبط إدارة ذاكرة KV المؤقتة والتجميع والتكميم لتحقيق زمن استجابة ومعدل معالجة واستخدام ذاكرة أفضل.
  • حلّل الفروقات العددية وقيّم تأثير تغييرات الدقة وتحسينات المترجم في الدقة.
  • استخدم أدوات تحليل الأداء وآثار التنفيذ وعدادات الأجهزة لتحديد اختناقات الحوسبة والذاكرة والاتصالات ووقت التشغيل.
  • تعاون مع فرق الأجهزة والمترجمات والنوى ووقت التشغيل لتوفير دعم موثوق للنماذج ومعايير أداء قابلة لإعادة الإنتاج.

المتطلبات

  • إتقان البرمجة بلغة C++ وPython.
  • خبرة عملية في تهيئة نماذج التعلم الآلي وتصحيح أخطائها باستخدام PyTorch أو إطار عمل مماثل.
  • خبرة عملية في MLIR، بما في ذلك اللهجات وأنماط إعادة الكتابة ومراحل التحويل ومسارات الخفض.
  • معرفة بأساسيات المترجمات، بما في ذلك التمثيلات الوسيطة وتحليل تدفق البيانات وتوليد الشيفرة.
  • فهم معماريات المحولات وآليات الانتباه وعمليات الموترات والدقة العددية.
  • خبرة في تحليل أداء أعباء العمل وتحسينها على وحدات معالجة الرسومات أو مسرّعات الذكاء الاصطناعي الأخرى.
  • القدرة على تشخيص مشكلات الصحة والأداء عبر شيفرة النموذج ومخرجات المترجم والنوى وتنفيذ وقت التشغيل.
  • خبرة في استدلال نماذج اللغة الكبيرة، بما في ذلك GQA والانتباه ذي النافذة المنزلقة والخبراء المتعددين والتخزين المؤقت لـ KV وفك الترميز التخميني.
  • خبرة في FP16 أو BF16 أو FP8 أو التكميم منخفض البتات وفهم المفاضلات بين الدقة والأداء.
  • خلفية في تطوير نوى للمسرّعات أو خلفيات مترجمات خاصة بالأجهزة.
  • إلمام بالتنفيذ الموزع وتوازي النماذج وتسلسلات ذاكرة المسرّعات.
  • مساهمات في MLIR أو LLVM أو أطر الاستدلال أو مشاريع مفتوحة المصدر ذات صلة.

المزايا

  • وظيفة مستقرة في بيئة بإيقاع الشركات الناشئة.
  • فرص لنشر أبحاث متقدمة في الذكاء الاصطناعي وإتاحتها كمصدر مفتوح.
  • العمل مع أحد أسرع الحواسيب العملاقة للذكاء الاصطناعي في العالم.
  • ثقافة مباشرة وغير مؤسسية تحترم المعتقدات الفردية.
  • تعلم مستمر ونمو مهني ودعم.
  • بيئة عمل عادلة ومتنوعة.