מומחה לבטיחות בינה מלאכותית, אנגלית והולנדית (חוזה מרחוק)
Mercor מחפשת מומחי בטיחות בבינה מלאכותית דוברי אנגלית והולנדית לבדיקת חדירה של מודלי שיחה וסוכנים. העבודה כוללת יצירת נתוני פגיעויות, תרחישי תקיפה ודוחות בטיחות הניתנים לשחזור עבור פיתוח בינה מלאכותית מתקדמת.
ארצות הברית48 $ – 62 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: הולנדיתבינה מלאכותיתתיאור
- בדיקת מודלי שיחה וסוכנים של בינה מלאכותית באמצעות עקיפת מגבלות, הזרקת הנחיות, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה רב־שלבית
- יצירת נתונים אנושיים באמצעות תיוג כשלים, סיווג פגיעויות וזיהוי סיכונים מערכתיים
- שימוש בטקסונומיות, מדדי הערכה וספרי נהלים לתמיכה בבדיקות בטיחות עקביות
- פיתוח דוחות, מערכי נתונים ומקרי תקיפה הניתנים לשחזור עבור לקוחות
- איתור פגיעויות שבדיקות אוטומטיות עלולות להחמיץ
- הרחבת כיסוי ההערכה כדי לסייע בצמצום סיכוני ייצור בלתי צפויים
- עבודה עם חוקרים מובילים להכשרה ולשיפור של מערכות בינה מלאכותית מתקדמות
דרישות
- שליטה ברמת שפת אם באנגלית ובהולנדית
- ניסיון קודם בבדיקות חדירה של בינה מלאכותית, בעבודה התקפית בתחום הסייבר או בבדיקת מערכות חברתיות־טכנולוגיות
- יכולת לבדוק מערכות בינה מלאכותית באופן התקפי ולהוביל אותן למצבי כשל
- ניסיון ביישום מסגרות או מדדי הערכה לבדיקות מובנות
- יכולת לתקשר סיכונים בבירור לקהלים טכניים ולא־טכניים
- יכולת להסתגל לפרויקטים וללקוחות שונים
- ניסיון בלמידת מכונה התקפית, כולל מערכי נתונים לעקיפת מגבלות, הזרקת הנחיות, תקיפות RLHF ו־DPO או חילוץ מודלים, הוא יתרון
- ניסיון בסייבר, כולל בדיקות חדירה, פיתוח ניצולים או הנדסה הפוכה, הוא יתרון
- ניסיון בסיכונים חברתיים־טכנולוגיים, כולל בדיקת הטרדה או דיסאינפורמציה, ניתוח שימוש לרעה או בדיקות בינה מלאכותית לשיחה, הוא יתרון
- ניסיון בבדיקות יצירתיות בתחומי הפסיכולוגיה, המשחק או הכתיבה הוא יתרון
- נדרשת יכולת לעבוד כקבלן עצמאי
- אין תמיכה במועמדי H-1B ו־STEM OPT
הטבות
- עבודה מרחוק לחלוטין
- שעות עבודה גמישות עם אפשרות לקבוע את שעות העבודה שלך
- תשלומים שבועיים באמצעות Stripe או Wise בהתאם לשירותים שסופקו
- פרויקטים עשויים להתארך, להתקצר או להסתיים מוקדם בהתאם לצורכי העסק ולביצועים
- השתתפות בפרויקטים בעלי רגישות גבוהה יותר היא אופציונלית
- הנחיות תוכן ומשאבי רווחה מסופקים
- התאמות סבירות זמינות לפי בקשה
- שכר שעתי תחרותי
- אפשרות לקבלת עד 250 דולר עבור כל הפניה מוצלחת, בכפוף למגבלות