מומחה לבטיחות בינה מלאכותית מרחוק (אנגלית ומראטהית) ב-Mercor
בדוק מודלים של בינה מלאכותית שיחתית לאיתור נקודות תורפה באמצעות בדיקות תקיפה יזומות באנגלית ובמראטהית. צור מערכי נתונים, מקרי תקיפה ודוחות הניתנים לשחזור עבור פרויקטים של בטיחות בינה מלאכותית המבוססים על נתונים אנושיים.
ארצות הברית16 $ – 22 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: מראטהיתבינה מלאכותיתתיאור
- ביצוע בדיקות תקיפה יזומות למודלים ולסוכנים של בינה מלאכותית שיחתית באמצעות עקיפת הגנות, הזרקת הנחיות, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה מרובת סבבים
- יצירת נתונים אנושיים באמצעות תיוג כשלים, סיווג נקודות תורפה וזיהוי סיכונים מערכתיים
- שימוש בטקסונומיות, אמות מידה וספרי נהלים לשמירה על הערכות עקביות
- פיתוח דוחות, מערכי נתונים ומקרי תקיפה הניתנים לשחזור עבור לקוחות
- הערכת פלטים של בינה מלאכותית העוסקים בנושאים רגישים, לרבות הטיה, מידע כוזב והתנהגות מזיקה
- זיהוי חולשות שבדיקות אוטומטיות עלולות לפספס
- הרחבת כיסוי ההערכה כדי לסייע במניעת בעיות בלתי צפויות בסביבת הייצור
- תמיכה בלקוחות בשיפור הבטיחות, החוסן ואמינותן של מערכות הבינה המלאכותית שלהם
דרישות
- נדרשת שליטה שוטפת או שפת אם באנגלית ובמראטהית
- שיקול דעת טוב בנושאי שפה ותוכן, כולל היכולת להעריך אם תשובות הבינה המלאכותית מדויקות, מלאות ומתאימות ולהסביר את ההיגיון
- תשומת לב יוצאת דופן לשגיאות עדינות, לחוסר עקביות ולהשמטות
- הקפדה עקבית על הנחיות מבוססות ועל תקני איכות
- תקשורת ברורה של ההיגיון לקהלים טכניים ולא טכניים כאחד
- יכולת להסתגל לפרויקטים, לפורמטים של משימות וללקוחות שונים
- יש לעבוד כקבלן עצמאי
- אין תמיכה במועמדי H1-B ובמועמדי STEM OPT
- יתרון לניסיון בלמידת מכונה יריבית, כולל מערכי נתונים לעקיפת הגנות, הזרקת הנחיות, מתקפות RLHF או DPO, או חילוץ מודלים
- יתרון לניסיון באבטחת סייבר הכולל בדיקות חדירה, פיתוח ניצולים או הנדסה לאחור
- יתרון לניסיון בסיכונים סוציו-טכניים הכולל בדיקת הטרדה או דיסאינפורמציה, ניתוח התעללות או בדיקות של בינה מלאכותית שיחתית
- יתרון לניסיון בפסיכולוגיה, משחק או כתיבה התומך בחשיבה יריבית לא שגרתית
הטבות
- עבודה מרחוק לחלוטין
- שעות עבודה גמישות עם אפשרות לבחור את שעות העבודה
- תשלומים שבועיים באמצעות Stripe או Wise, בהתאם לשירותים שסופקו
- משך הפרויקט עשוי להתארך, להתקצר או להסתיים מוקדם בהתאם לצרכים העסקיים ולביצועים
- משאבי רווחה והנחיות ברורות לפרויקטים הכוללים תוכן בעל רגישות גבוהה יותר
- התאמות סבירות זמינות לפי בקשה
- תוכנית הפניות המציעה עד 90 דולר עבור כל הפניה מוצלחת, ללא הגבלה על מספר ההפניות
- הזדמנות לשתף פעולה עם חוקרים מובילים
- הזדמנות לצבור ניסיון בביצוע בדיקות תקיפה יזומות של בינה מלאכותית המבוססות על נתונים אנושיים, בחזית תחום בטיחות הבינה המלאכותית