מומחה בדיקות תקיפה לבטיחות בינה מלאכותית – אנגלית ופינית, עבודה מרחוק מארצות הברית
ביצוע בדיקות תקיפה למודלים ולסוכנים של בינה מלאכותית שיחתית במסגרת פרויקטים של נתונים אנושיים לבינה מלאכותית ב-Mercor. יצירת נתוני פגיעויות הניתנים לשחזור כדי לסייע בחיזוק מערכות בינה מלאכותית מתקדמות.
ארצות הברית48 $ – 62 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: פיניתבינה מלאכותיתתיאור
- בדיקת מודלים וסוכנים של בינה מלאכותית שיחתית באמצעות עקיפת מגבלות, הזרקות הנחיות, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה רב-סבבית
- תיעוד כשלים, סיווג פגיעויות וזיהוי סיכונים מערכתיים
- יישום טקסונומיות, מדדים וספרי הפעלה מבוססים לצורך הערכות עקביות
- יצירת דוחות, מערכי נתונים ומקרי תקיפה הניתנים לשחזור עבור לקוחות
- זיהוי פגיעויות שבדיקות אוטומטיות עלולות להחמיץ
- הרחבת כיסוי ההערכה וסיוע בהפחתת בעיות בלתי צפויות בסביבת הייצור
- עבודה עם חוקרים מובילים על פרויקטים להכשרה ולשיפור של מערכות בינה מלאכותית
דרישות
- שליטה שוטפת או שפת אם באנגלית ובפינית
- ניסיון קודם בבדיקות תקיפה של מערכות בינה מלאכותית, בעבודת תקיפה בתחום הסייבר או בבחינה חברתית-טכנולוגית
- יכולת לבדוק מערכות בינה מלאכותית באופן עוין ולדחוף אותן לנקודות כשל
- ניסיון ביישום מסגרות או מדדים לבדיקות מובנות
- יכולת לתקשר סיכונים בבירור לקהלים טכניים ולא-טכניים
- יכולת הסתגלות בין פרויקטים לדרישות לקוחות
- זמינות לעבודה כקבלן עצמאי
- אין להיות מועמד ל-H-1B או ל-STEM OPT
- יתרון לניסיון בלמידת מכונה עוינת, כולל מערכי נתונים לעקיפת מגבלות, הזרקות הנחיות, התקפות RLHF או DPO, או חילוץ מודלים
- יתרון לניסיון בסייבר, כגון בדיקות חדירה, פיתוח ניצולים או הנדסה לאחור
- יתרון לניסיון בסיכונים חברתיים-טכנולוגיים, כגון בחינת הטרדה או דיסאינפורמציה, ניתוח שימוש לרעה או בדיקות של בינה מלאכותית שיחתית
- יתרון לרקע בפסיכולוגיה, משחק או כתיבה התומך בחשיבה עוינת ובלתי שגרתית
הטבות
- עבודה מרחוק לחלוטין
- שעות עבודה גמישות
- תשלומים שבועיים באמצעות Stripe או Wise
- משאבי רווחה והנחיות ברורות לפרויקטים בעלי רגישות גבוהה יותר
- הזדמנות לצבור ניסיון בבדיקות תקיפה של בינה מלאכותית המבוססות על נתונים אנושיים
- הזדמנות ישירה לסייע בהפיכת מערכות בינה מלאכותית לחסינות, בטוחות ואמינות יותר
- שכר תחרותי
- מענק הפניה של עד 250 דולר עבור כל הפניה מוצלחת