NVIDIA
NVIDIA
NVIDIA מפתחת טכנולוגיות למחשוב מואץ ולבינה מלאכותית המשמשות בתחומי הגיימינג, מרכזי נתונים, מחשוב ענן, בריאות, ייצור, רכב ורובוטיקה. פעילותה כוללת יחידות עיבוד גרפי, פלטפורמות בינה מלאכותית, סימולציה ופתרונות ייעודיים לתעשיות, ובהם NVIDIA Omniverse לתהליכי עבודה שיתופיים בתלת־ממד, NVIDIA DRIVE לפיתוח כלי רכב אוטונומיים ו-NVIDIA Clara ליישומי בריאות. החברה מאגדת צוותים טכנולוגיים גדולים העובדים על התשתיות והתוכנה התומכות במחשוב מתקדם, בסימולציה ובאנליטיקה המונעת בידי בינה מלאכותית.

מהנדס/ת תוכנה בכיר/ה ללמידה עמוקה ולהסקה

פיתוח וכוונון של תוכנה מואצת GPU להסקת AI בקנה מידה גדול ב-NVIDIA. שיפור מסגרות הגשה בקוד פתוח וביצועי מודלים במאיצי NVIDIA.

תיאור

  • פיתוח ואופטימיזציה של תוכנה מואצת GPU ליישומי בינה מלאכותית.
  • פיתוח ותחזוקה של מסגרות קוד פתוח להגשה ולהסקה של מודלים בקנה מידה גדול.
  • שיפור פלטפורמות הסקה ותמיכה בפריסה ובהגשה של מודלי שפה.
  • מימוש אלגוריתמים חדשים להפצה באמצעות מסגרות הסקה.
  • הובלת שיפורי ביצועים למודלי LLM מתקדמים ולמודלי AI גנרטיבי במאיצי NVIDIA.
  • שימוש בכלים כגון CUTLASS,‏ OAI Triton,‏ NCCL וקרנלי CUDA לאופטימיזציה של צינורות הגשת מודלים.
  • ניתוח וכוונון של מודלי למידה עמוקה בתחומי LLM,‏ AI רב-מודלי ו-AI גנרטיבי.
  • הרחבת ביצועי מודלים על פני ארכיטקטורות וסוגי מאיצים של NVIDIA.
  • תרומה של תכונות וקוד לספריות ההסקה של NVIDIA, ל-vLLM,‏ SGLang,‏ FlashInfer ולתוכנת LLM.
  • עבודה עם צוותים העוסקים במסגרות, בספריות NVIDIA ובפתרונות לאופטימיזציה של הסקה.

דרישות

  • תואר שני, דוקטורט או ניסיון מקביל בתחום רלוונטי כגון הנדסת מחשבים, מדעי המחשב, הנדסת חשמל ומדעי המחשב או בינה מלאכותית.
  • לפחות חמש שנות ניסיון רלוונטי בפיתוח תוכנה.
  • שליטה בתכנות C/C++ ובתכנון תוכנה.
  • ניסיון בפיתוח תוכנה בשיטת Agile הוא יתרון.
  • ניסיון ב-Python הוא יתרון.
  • ניסיון מעשי באימון, בפריסה או באופטימיזציה של הסקת מודלי למידה עמוקה הוא יתרון.
  • ניסיון במידול ביצועים, בפרופיילינג, בניפוי שגיאות ובאופטימיזציית קוד, או היכרות עם ארכיטקטורת CPU ו-GPU, הם יתרון.
  • ניסיון בתכנות GPU באמצעות CUDA,‏ OAI Triton או CUTLASS הוא יתרון.
  • ניסיון בתרומה לפרויקטי תוכנת למידה עמוקה כגון PyTorch,‏ vLLM או SGLang.
  • ניסיון בתקשורת בין מספר GPUs, לרבות NCCL או NVSHMEM.

הטבות

  • חבילת הטבות מקיפה.
  • הון מנייתי.