FAR.AI הוא ארגון ללא מטרות רווח העוסק במחקר ובחינוך, ופועל כדי להפוך בינה מלאכותית מתקדמת לבטוחה ומועילה לכולם. הצוות שלו חוקר אתגרים מרכזיים בבינה מלאכותית אמינה, ובהם חוסן, הטעיה, פרשנות והערכת מערכות פורצות דרך. באמצעות מחקר טכני, הכשרות, אירועים, סדנאות, הענקת מענקים ותוכניות כגון FAR.Labs, FAR.AI תומך בחוקרים ומחזק את יכולתו של התחום לפתח בינה מלאכותית בטוחה ומתואמת לערכים. הארגון גם משתף ממצאי מחקר, מפגיש מובילים מהאקדמיה ומהתעשייה, ומשתף פעולה עם אוניברסיטאות ועם גופים ציבוריים בנושאי בטיחות ומדיניות של בינה מלאכותית.
ראש/ת הנדסה, צוות הבדיקה האדומה לבינה מלאכותית
הובלת פעילות ההנדסה של FAR.AI עבור תוכנית עולמית לבדיקת תקיפה של מערכות בינה מלאכותית מתקדמות. בניית צוותים, כלים מבוססי סוכנים ומערכות הערכה שמקדמים את הבטיחות והאבטחה של הבינה המלאכותית.
תיאור
- להרחיב את ארגון הנדסת הצוות האדום של FAR.AI ואת המערכות, המוצרים, השירותים, ההערכות והסוכנים שלו
- ליצור מערכות בדיקה אדומה מבוססות סוכנים שחוקרות באופן שיטתי משטחי תקיפה
- לאתר פריצות כלא ציבוריות שפורסמו לאחרונה ולשלב אותן אוטומטית בפלטפורמות לבדיקת תקיפה
- לשפר שיטות לסימולציית תוקפים ולהערכת פלטים מזיקים
- לפתח מאגרי פגיעויות, יכולות לניתוח סטטיסטי ותשתית לדיווח
- לספק מערכות למעורבות בדיקה אדומה בעלת חשיבות גבוהה עם חברות בינה מלאכותית מתקדמת וממשלות
- לסייע בהפקת דוחות ציבוריים, מדדי ביצוע וטבלאות דירוג
- להשתתף בבדיקת מודלים מתקדמים בעלי משקולות סגורות ופתוחות
- לפתח תהליכי עבודה מבוססי סוכנים שמגבירים את יעילות הצוות האדום
- להוביל, לחנוך ולתמוך בתורמים בתחומי ההנדסה והבדיקה האדומה
- לתכנן עבודת ספרינטים ולכוון את מסירת התוצרים ההנדסיים
- לבסס תהליכים הניתנים להרחבה עבור מעורבויות מהירות
- לעצב מסלולי גיוס ולגייס מנהלי הנדסה וחברי צוות נוספים
- לאתר מגבלות הנדסיות ולהטמיע פתרונות יעילים
- לעבוד עם ההנהלה הטכנית על מערכות הנדסיות, שיטות, הערכות ומחקר
- לסייע בעיצוב האסטרטגיה הטכנית ואסטרטגיית המוצר של הצוות האדום
- להפוך מושגים וממצאים טכניים להשפעה מעשית בעולם האמיתי
דרישות
- ניסיון משמעותי בהנדסת תוכנה, בינה מלאכותית או הנדסת מחשבים, כולל בתחומים כגון אבטחת סייבר או MLOps
- רקורד חזק בבנייה, פיתוח והובלה של צוותים טכניים, כולל חברות הזנק מראשיתן וצוותי מנהלים
- ניסיון מעשי עם סוכני קידוד, Python, ממשקי API של מודלי שפה גדולים, מסגרות למודלי שפה גדולים מקומיים, מסגרות הערכה, סוכני מודלי שפה גדולים, תשתיות ענן ואשכולות מחשוב
- יכולת לפעול ביעילות בסביבות המשתנות במהירות
- מחויבות ברורה לקידום המשימה וההשפעה של מערכות בינה מלאכותית מתקדמות
- כישורי תקשורת חזקים להסברת פתרונות טכניים לקהלים טכניים ולא טכניים
- התמדה בביצוע לקראת יעדים שאפתניים
- ניסיון בבנייה או בבדיקה אדומה של מודלי שפה גדולים מתקדמים או מערכות מבוססות סוכנים הוא יתרון
- ניסיון ביצירת צוותים ומוצרים טכניים בסביבות יזמיות הוא יתרון
- יכולת לחשוף פגיעויות עדינות וחמורות במערכות מורכבות היא יתרון
- רקע בלמידת מכונה אדוורסרית או באבטחה הוא יתרון
- עבודה קודמת עם מעבדות בינה מלאכותית, צוותי אבטחה או מכוני בטיחות ממשלתיים היא יתרון
- מחקר שפורסם או עבודה אחרת בבטיחות, אבטחה או עמידות של בינה מלאכותית הם יתרון
- נכונות לעבוד עם גמישות מסוימת באזורי הזמן
- זמינות לעבודה במשרה מלאה של 40 שעות בשבוע
הטבות
- כיסוי עלויות נסיעות הקשורות לעבודה
- כיסוי עלויות ציוד
- ארוחות צהריים וערב מסופקות במשרד בברקלי
- קיימת חסות ויזה לארצות הברית או לסינגפור
- תקופת ניסיון בעבודה בתשלום