מומחה לבטיחות בינה מלאכותית מרחוק (אנגלית וטמילית)
Mercor מחפשת מומחה לבטיחות בינה מלאכותית הדובר אנגלית וטמילית, לצורך בדיקות תקיפה של מודלי שיחה וסוכנים. התפקיד החוזי מתמקד באיתור נקודות תורפה, בהערכת פלטים רגישים וביצירת נתוני בטיחות הניתנים לשחזור עבור אימון מערכות בינה מלאכותית מתקדמות.
ארצות הברית16 $ – 22 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: טמיליתבינה מלאכותיתתיאור
- לבצע בדיקות תקיפה של מודלי שיחה וסוכנים באמצעות פריצת מגבלות, הזרקת הנחיות, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה רב-שלבית
- לתייג כשלים, לסווג נקודות תורפה ולזהות סיכונים מערכתיים
- ליישם בעקביות טקסונומיות, מדדים וספרי בדיקות מבוססים
- ליצור דוחות, מערכי נתונים ומקרי תקיפה הניתנים לשחזור
- להעריך פלטים של בינה מלאכותית הכוללים הטיות, מידע שגוי, התנהגות מזיקה ונושאים רגישים אחרים
- להרחיב את כיסוי ההערכה באמצעות איתור חולשות שבדיקות אוטומטיות עלולות לפספס
- לעבוד עם צוותי פרויקטים המפתחים ומשפרים מערכות בינה מלאכותית מתקדמות
דרישות
- שליטה ברמת שפת אם או ברמה שוטפת באנגלית ובטמילית
- שיקול דעת טוב בעת הערכת שפה ותוכן
- יכולת לקבוע אם תגובות בינה מלאכותית מדויקות, מלאות והולמות
- תשומת לב חדה לשגיאות עדינות, לחוסר עקביות ולהשמטות
- הקפדה עקבית על הנחיות ועל תקני איכות
- יכולת להסביר את תהליך החשיבה בבירור לקהלים טכניים ולא טכניים
- גמישות בין פרויקטים, פורמטים של משימות ולקוחות
- זמינות לעבודה כקבלן עצמאי
- אסור שתידרש חסות מסוג H-1B או STEM OPT
- ניסיון בלמידת מכונה עוינת, באבטחת סייבר, בסיכון חברתי-טכנולוגי או בחקירה יצירתית הוא יתרון
הטבות
- עבודה מרחוק באופן מלא
- קביעת לוח זמנים גמיש
- קבלת תשלומים שבועיים באמצעות Stripe או Wise
- תגמול תחרותי
- צבירת ניסיון בבדיקות תקיפה של בינה מלאכותית המבוססות על נתונים אנושיים
- סיוע בהפיכת מערכות בינה מלאכותית לחסינות, בטוחות ואמינות יותר
- שיתוף פעולה עם חוקרים מובילים
- התאמות סבירות זמינות לפי בקשה
- תשלומי הפניה של עד 90 דולר עבור כל הפניה מוצלחת