בודק חדירות לאבטחת בינה מלאכותית - חוזה מרחוק (ארצות הברית)
Mercor מחפשת בודק חדירות לאבטחת בינה מלאכותית שיחשוף נקודות תורפה במודלי בינה מלאכותית מתקדמים באמצעות בדיקות יריבות. התפקיד כולל תכנון פרומפטים והערכת התנהגות מודלים בסיכון גבוה לצד חוקרי אבטחת בינה מלאכותית.
תיאור
- יצירת פרומפטים יריביים לאתגר מודלי בינה מלאכותית מתקדמים
- זיהוי פריצות הגנה, התנהגות לא בטוחה, הזיות והפרות מדיניות
- הערכת חוסן המודלים בתחומי דיסאינפורמציה, אבטחת סייבר, אבטחה ביולוגית, הונאה, תוכן פוליטי ותחומים רגישים נוספים
- תיעוד נקודות תורפה ותמיכה במדדי אבטחה ובדוחות בדיקות חדירה
- שיתוף פעולה עם חוקרי בינה מלאכותית לחיזוק התאמת המודלים, חוסנם ואבטחתם
- תרומה לפרויקטים שמאמנים ומשפרים מערכות בינה מלאכותית
דרישות
- תואר ראשון ומעלה במדעי המחשב, אבטחת סייבר, עיתונאות, תקשורת, פסיכולוגיה, ביולוגיה, כימיה, מדיניות ציבורית או תחום קשור
- לפחות חמש שנות ניסיון מקצועי באבטחת בינה מלאכותית, בדיקות חדירה לבינה מלאכותית, אמון ובטיחות, אבטחת סייבר, עיתונאות חוקרת, מדעי החיים או תחום קשור
- יכולות חזקות של חשיבה אנליטית, תכנון פרומפטים ותקשורת בכתב
- רקע ביצירת פרומפטים יריביים או בהערכת מערכות בינה מלאכותית מתקדמות
- ניסיון בבדיקות חדירה לבינה מלאכותית, RLHF, SFT, התאמת בינה מלאכותית או אמון ובטיחות הוא יתרון
- היכרות עם בדיקות פריצת הגנה, הנדסת פרומפטים או שיטות הערכה יריבות היא יתרון
- מומחיות באחד או יותר מתחומי האפור, כגון אבטחת סייבר, אבטחה ביולוגית, תוכן פוליטי, דיסאינפורמציה או בטיחות מדעית, היא יתרון
- יכולת לעבוד כקבלן עצמאי
- מועמדים עם H-1B ו-STEM OPT אינם נתמכים
הטבות
- עבודה מרחוק לחלוטין
- שעות עבודה גמישות
- תשלומים שבועיים באמצעות Stripe או Wise
- פרויקטים עשויים להתארך, להתקצר או להסתיים מוקדם בהתאם לצורכי העסק ולביצועים
- עבודת בדיקות חדירה עם חוקרי בינה מלאכותית וצוותי בטיחות מובילים
- הזדמנות להשפיע על האופן שבו מערכות בינה מלאכותית מתמודדות עם אתגרי בטיחות מורכבים בעולם האמיתי
- התאמות סבירות זמינות לפי בקשה
- תשלומי הפניה של עד 340 דולר עבור כל הפניה מוצלחת, בכפוף למגבלות הפניה