STN Incorporated
STN Incorporated
STN Incorporated מספקת שירותי IT מנוהלים ותשתיות ענן לארגונים ולצוותים המפתחים תוכנות קריטיות לעסק, מערכות בינה מלאכותית ורובוטיקה. שירותיה כוללים ענני CPU פרטיים, תשתית הבינה המלאכותית GPU One, רשתות ואחסון מאובטחים, וכן תפעול ענן שוטף הנתמך בסיוע אנושי 24/7 ובהסכמי רמת שירות המבטיחים זמינות גבוהה. החברה מטפלת גם בתפעול אבטחת סייבר ובתגובה לאירועים, בניהול ציות וסיכונים, בגיבוי ובשחזור, וכן ברכש טכנולוגי ובניהול מחזור החיים שלו. STN משרתת חברות SaaS, בוני מערכות בינה מלאכותית ומפתחי מודלים, חברות רובוטיקה וארגונים מפוקחים, ובהם ספקי שירותי בריאות, באמצעות תשתיות שנועדו לתמוך במוכנות לביקורת ובמסגרות כגון SOC 2 Type II ו-HIPAA.

מוביל בכיר לאופטימיזציה של עומסי הסקה

הובלת כוונון ביצועי GPU לעומסי AI של לקוחות בפלטפורמת מרכזי הנתונים האוטונומית של STN. הפיכת מומחיות באופטימיזציה לתיקונים שסוכנים יכולים לבצע, ופיקוח על הגשת מודלים פנימית.

תיאור

  • ניתוח עומסי אימון והסקה של לקוחות כדי לאתר צווארי בקבוק בביצועים בטעינת נתונים, תקשורת קולקטיבית, רוחב פס זיכרון, ליבות, איגוד אצוות ומקביליות.
  • הגדרת קווי בסיס לביצועים לכל דור חומרה, החל ממערכות NVIDIA מהדור הנוכחי.
  • הפיכת מומחיות באופטימיזציה לתיקונים שסוכנים יכולים להחיל באשכולות של לקוחות.
  • כוונון עומסי עבודה עם לקוחות בעלי קיבולת מחויבת, ישירות או באמצעות צוותי התפעול שלהם.
  • כמשימה משנית, ניהול הגשת מודלים פנימית, לרבות ניתוב המתחשב בעלות ובזמן השהיה והעברת גרסאות מודל.
  • מתן ייעוץ להקצאת GPUs בין הסקה פנימית לעומסי עבודה של לקוחות.

דרישות

  • מומחיות עמוקה בהנדסת ביצועי GPU, לרבות פרופיילינג, התנהגות זיכרון ורוחב פס והבנה ברמת הליבה.
  • ידע מעשי במחסניות הגשה כגון vLLM, SGLang או TensorRT-LLM, לרבות איגוד אצוות, ניהול מטמון KV ופשרות קוונטיזציה.
  • ניסיון באימון ובהסקה מבוזרים בקנה מידה גדול, לרבות מקביליות טנזורים, צינורות ונתונים.
  • ניסיון בכוונון תקשורת קולקטיבית כגון NCCL.
  • שליטה בכלי פרופיילינג כגון Nsight, ‏DCGM וכלי פרופיילינג ברמת המסגרת.
  • יכולת להסביר ממצאי ביצועים ללקוחות ולקודד פתרונות עבור סוכן.
  • יתרון: פיתוח ליבות CUDA, פריסת מודלים פתוחים במשקלים בקנה מידה גדול, תכנון מבחני ביצועים וניסיון טכני קודם מול לקוחות.

משרות קשורות

SHI International Corp.

מנהל/ת שיווק בכיר/ה לפתרונות בינה מלאכותית

SHI International Corp.
5,001 – 10,000 עובדים
ייעוץייצורלוגיסטיקה

עצבו את המיצוב, המסרים וההשקות של SHI בתחום הבינה המלאכותית לארגונים. פתחו כלים למכירות, תוכן לאירועים וסיפורי לקוחות לתמיכה בצמיחה.

פתח
Gramian Consulting

מומחה למחקר ולהערכת שיחות בינה מלאכותית

Gramian Consulting

חברת Gramian Consulting מגייסת מעריך שיחות בינה מלאכותית לשיפור איכות ההמלצות של מערכות AI. התפקיד כולל ניתוח איכותני מובנה של מצבים בין־אישיים וזיהוי מידע הקשרי חסר.

פתח
Gartner

מנהל בכיר לניהול נתונים ולהטמעת בינה מלאכותית

Gartner

בגרטנר, ספק מחקר והכוונה להנהלה בנושא פלטפורמות לניהול נתונים והטמעת בינה מלאכותית. ייעץ למנהיגי ארגונים באמצעות תובנות, מצגות ומפגשים עם לקוחות.

פתח
CDW

מהנדס ייעוץ בכיר לתוכנת בינה מלאכותית

CDW

הובלת פרויקטים של בינה מלאכותית ו־MLOps ללקוחות CDW, מארכיטקטורת פתרונות ועד למסירה. הנחיית מהנדסים ואספקת מערכות ייצור מאובטחות וניתנות להרחבה.

פתח
CDW

מהנדס ייעוץ לתשתיות AI, מחשוב ואחסון

CDW

תכננו ואמתו פתרונות מחשוב GPU ואחסון עתיר ביצועים לעומסי AI ולמידת מכונה ארגוניים. סייעו ללקוחות CDW להטמיע תשתיות לאימון AI, לכוונון עדין ולהסקה.

פתח
Salesforce

מוביל בכיר לחדשנות בינה מלאכותית במדעי החיים

Salesforce

מוביל את אסטרטגיית אספקת פתרונות הבינה המלאכותית של Salesforce לתחום מדעי החיים, מפתח יכולות רב־פעמיות ומקדם שינוי אצל לקוחות. מנחה צוות גלובלי בתחומי המוצר, ההנדסה והשירותים המקצועיים.

פתח