בודק בטיחות של מודלי בינה מלאכותית בצוות אדום
בדקו את מודלי הבינה המלאכותית המתקדמים של Mercor באמצעות ניסיונות תקיפה כדי לאתר חולשות בטיחות. חשפו פגיעויות וסייעו בשיפור התאמת המודלים.
תיאור
- צרו הנחיות עוינות כדי לבחון מודלי בינה מלאכותית מתקדמים.
- אתרו פריצות למנגנוני הגנה, התנהגות לא בטוחה, הזיות והפרות מדיניות.
- בדקו את עמידות המודלים בפני מידע מטעה, אבטחת סייבר, אבטחה ביולוגית, הונאה, תוכן פוליטי ותחומים רגישים נוספים.
- תעדו פגיעויות וסייעו בהפקת מדדי בטיחות ודוחות צוות אדום.
- שתפו פעולה עם חוקרי בינה מלאכותית לחיזוק התאמת המודלים, עמידותם ובטיחותם.
- סייעו להגן על הדור הבא של מודלי בינה מלאכותית מתקדמים ולשפר אותו.
- תרמו לפרויקטים שמאמנים ומשפרים מערכות בינה מלאכותית.
דרישות
- תואר ראשון ומעלה במדעי המחשב, אבטחת סייבר, עיתונאות, תקשורת, פסיכולוגיה, ביולוגיה, כימיה, מדיניות ציבורית או תחום קשור
- לפחות חמש שנות ניסיון מקצועי בבטיחות בינה מלאכותית, בדיקות צוות אדום לבינה מלאכותית, אמון ובטיחות, אבטחת סייבר, עיתונאות חוקרת, מדעי החיים או תחום קשור
- יכולת חזקה לחשיבה אנליטית, לתכנון הנחיות ולכתיבה
- ניסיון ביצירת הנחיות עוינות או בהערכת מערכות בינה מלאכותית מתקדמות
- ניסיון בבדיקות צוות אדום לבינה מלאכותית, ב-RLHF, בכוונון עדין מפוקח, בהתאמת בינה מלאכותית או באמון ובטיחות הוא יתרון
- היכרות עם בדיקות פריצת מנגנוני הגנה, הנדסת הנחיות או שיטות הערכה עוינות היא יתרון
- מומחיות בתחום רגיש אחד לפחות, כגון אבטחת סייבר, אבטחה ביולוגית, תוכן פוליטי, מידע מטעה או בטיחות מדעית, היא יתרון
- אסור שהמועמד יזדקק לחסות לוויזת H-1B או לתוכנית STEM OPT; Mercor אינה יכולה לתמוך במועמדים הזקוקים לאחת מצורות החסות האלה
הטבות
- עבודה מרחוק באופן מלא עם לוח זמנים גמיש
- תשלומים שבועיים באמצעות Stripe או Wise עבור השירותים שניתנו
- משך הפרויקט עשוי להשתנות או להסתיים מוקדם בהתאם לצורכי הפרויקט ולביצועים
- עבודה לצד חוקרי בינה מלאכותית מובילים וצוותי בטיחות
- השפעה על האופן שבו מערכות בינה מלאכותית מתמודדות עם אתגרי בטיחות מורכבים מהעולם האמיתי
- התאמות סבירות זמינות לפי בקשה
- תשלומי הפניה של עד 340 דולר לכל הפניה מוצלחת, בכפוף למגבלות