מומחה Red Team לבטיחות בינה מלאכותית – אנגלית וטמילית, חוזה מרחוק
בדוק מודלים וסוכנים של בינה מלאכותית לשיחה לאיתור נקודות תורפה באמצעות חקירה יריבה וניתוח Red Team מובנה. צור מקרי תקיפה, נתוני פגיעויות ודוחות שניתן לשחזר עבור לקוחות מעבדת הבינה המלאכותית של Mercor.
ארצות הברית16 $ – 22 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: טמיליתבינה מלאכותיתתיאור
- בחן מודלים וסוכנים של בינה מלאכותית לשיחה באמצעות עקיפת מגבלות, הזרקות הנחיות, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה רב־שלבית
- צור נתונים מתויגים בידי בני אדם באמצעות תיעוד כשלים, סיווג פגיעויות וזיהוי סיכונים מערכתיים
- השתמש בטקסונומיות, מדדים וספרי הפעלה מבוססים כדי לשמור על הערכות עקביות
- פתח דוחות, מערכי נתונים ומקרי תקיפה שניתן לשחזר עבור לקוחות
- הערך פלטים של בינה מלאכותית הכוללים הטיה, מידע שגוי, התנהגות מזיקה ונושאים רגישים אחרים
- זהה חולשות שבדיקות אוטומטיות עלולות לפספס
- הרחב את כיסוי ההערכה וסייע במניעת בעיות ייצור בלתי צפויות
- שפר את מערכות הבינה המלאכותית של הלקוחות ותרום למודלים בטוחים ואמינים יותר
דרישות
- שליטה ברמת שפת אם באנגלית ובטמילית
- שיקול דעת טוב בעת הערכת שפה ותוכן
- יכולת לקבוע אם תשובות של בינה מלאכותית מדויקות, שלמות והולמות, ולהסביר את ההערכה
- תשומת לב קפדנית לשגיאות עדינות, לחוסר עקביות ולהשמטות
- יכולת ליישם הנחיות ותקני איכות באופן עקבי
- תקשורת ברורה של ההיגיון בפני קהלים טכניים ושאינם טכניים
- גמישות בין פרויקטים, פורמטים של משימות ולקוחות
- יתרון: ניסיון בלמידת מכונה יריבה, כולל מערכי נתונים לעקיפת מגבלות, הזרקות הנחיות, תקיפות RLHF או DPO, או חילוץ מודלים
- יתרון: רקע באבטחת סייבר הכולל בדיקות חדירה, פיתוח ניצולים או הנדסה הפוכה
- יתרון: ניסיון בסיכונים חברתיים־טכניים כגון בדיקת הטרדה ודיסאינפורמציה, ניתוח שימוש לרעה או בדיקת בינה מלאכותית לשיחה
- יתרון: ניסיון בחקירה יצירתית בפסיכולוגיה, משחק או כתיבה
- יש לעבוד כקבלן עצמאי
- אין תמיכה במועמדי H-1B ו-STEM OPT
הטבות
- עבודה מרחוק לחלוטין
- שעות עבודה גמישות עם אפשרות לקבוע את שעות העבודה שלך
- תשלומים שבועיים באמצעות Stripe או Wise
- תגמול שעתי תחרותי
- הזדמנות לצבור ניסיון ב-Red Team של בינה מלאכותית המבוסס על נתונים אנושיים ומתמקד בבטיחות מתקדמת
- תרומה ישירה למערכות בינה מלאכותית עמידות, בטוחות ואמינות יותר
- אפשרות להשתתף בפרויקטים בעלי רגישות גבוהה יותר
- הנחיות ומשאבי רווחה לפרויקטים הכוללים תוכן רגיש
- התאמות סבירות זמינות לפי בקשה
- תוכנית הפניות המציעה עד 90 דולר עבור כל הפניה מוצלחת, בכפוף למגבלות הפניה