מומחה לבדיקות חדירה של בטיחות בינה מלאכותית באנגלית ובפנג'אבית
Mercor מחפשת מומחה לבטיחות בינה מלאכותית הדובר אנגלית ופנג'אבית, לצורך בדיקות חדירה של מודלים וסוכנים לשיחה. התפקיד החוזי מתמקד באיתור חולשות, ביצירת מקרי תקיפה ובהפקת דוחות בטיחות הניתנים לשחזור עבור לקוחות מחקר בתחום הבינה המלאכותית.
ארצות הברית16 $ – 22 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: פנג׳אביבינה מלאכותיתתיאור
- בדיקת מודלים וסוכנים לשיחה של בינה מלאכותית באמצעות פריצת הגנות, הזרקות הנחיות, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה רב־שלבית
- הערכת פלטים של מודלים בנושאים רגישים, כולל הטיות, מידע שגוי והתנהגות מזיקה
- תיעוד כשלים, סיווג חולשות וזיהוי סיכונים מערכתיים
- שימוש בטקסונומיות, מדדים וספרי הפעלה מבוססים לשמירה על הערכות עקביות
- יצירת דוחות, מערכי נתונים ומקרי תקיפה הניתנים לשחזור עבור לקוחות
- חקירת מערכות בינה מלאכותית לאיתור חולשות שבדיקות אוטומטיות עלולות לפספס
- הרחבת כיסוי ההערכה כדי לסייע בהגבלת בעיות בלתי צפויות בסביבת הייצור
- שיפור מערכות הבינה המלאכותית של הלקוחות באמצעות בדיקות חדירה בהובלת אדם ועל בסיס נתונים
דרישות
- שליטה ברמת שפת אם או ברמה שוטפת באנגלית ובפנג'אבית
- שיקול דעת מעולה בעת הערכת שפה ותוכן
- יכולת לקבוע אם תגובות בינה מלאכותית מדויקות, מלאות ומתאימות, ולהסביר את ההערכה
- תשומת לב קפדנית לשגיאות עדינות, לחוסר עקביות ולהשמטות
- הקפדה עקבית על הנחיות בדיקה ועל תקני איכות
- יכולת להסביר את ההיגיון בבהירות לקהלים טכניים ולא־טכניים
- גמישות בעבודה על פני פרויקטים, פורמטים של משימות ולקוחות שונים
- זמינות לעבוד כקבלן עצמאי
- התפקיד אינו יכול לדרוש תמיכה ב־H-1B או ב־STEM OPT
- ניסיון מועדף עשוי לכלול למידת מכונה יריבית, מערכי נתונים לפריצת הגנות, הזרקת הנחיות, תקיפות RLHF או DPO, חילוץ מודלים, בדיקות חדירה, פיתוח ניצולים, הנדסה לאחור, בדיקת הטרדות או דיסאינפורמציה, ניתוח שימוש לרעה, בדיקות בינה מלאכותית שיחתית, פסיכולוגיה, משחק או כתיבה
הטבות
- עבודה מרחוק מכל מקום המותר במסגרת התפקיד
- קביעת לוח העבודה שלך
- קבלת תשלומים שבועיים באמצעות Stripe או Wise עבור השירותים שניתנו
- פרויקטים עשויים להיות מוארכים, מצומצמים או להסתיים מוקדם בהתאם לצורכי העסק ולביצועים
- גישה למשאבי רווחה ולהנחיות ברורות לפרויקטים בעלי רגישות גבוהה יותר
- צבירת ניסיון בבדיקות חדירה של בינה מלאכותית המבוססות על נתונים אנושיים
- סיוע בהפיכת מערכות בינה מלאכותית לחזקות, בטוחות ואמינות יותר
- תגמול תחרותי
- שיתוף פעולה עם חוקרי בינה מלאכותית מובילים