מומחה לבטיחות בינה מלאכותית – אנגלית ומראטהית (מרחוק)
Mercor מחפשת מומחי בטיחות בבינה מלאכותית הדוברים אנגלית ומראטהית לביצוע בדיקות תקיפה של מודלים וסוכנים לשיחה. העבודה כוללת איתור נקודות תורפה, הערכת פלטים רגישים ויצירת נתוני בטיחות הניתנים לשחזור עבור מעבדות בינה מלאכותית ולקוחותיהן.
ארצות הברית16 $ – 22 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: מראטהיתבינה מלאכותיתתיאור
- ביצוע בדיקות תקיפה של מודלים וסוכנים לשיחה באמצעות עקיפת הגנות, הזרקות הנחיות, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה מרובת תורות
- יצירת נתוני הערכה אנושיים באמצעות תיוג כשלים, סיווג נקודות תורפה וזיהוי סיכונים מערכתיים
- שימוש בטקסונומיות, במדדים ובספרי הפעלה מבוססים לתמיכה בהערכות עקביות
- פיתוח דוחות, מערכי נתונים ומקרי תקיפה הניתנים לשחזור עבור לקוחות
- הערכת פלטים של בינה מלאכותית הקשורים להטיה, מידע שגוי, התנהגות מזיקה ונושאים רגישים אחרים
- זיהוי נקודות תורפה שבדיקות אוטומטיות עלולות להחמיץ
- הרחבת כיסוי ההערכה כדי לסייע בצמצום בעיות בלתי צפויות בסביבת הייצור
- תמיכה בלקוחות בשיפור הבטיחות, החוסן והאמינות של מערכות הבינה המלאכותית שלהם
דרישות
- שליטה ברמת שפת אם באנגלית ובמראטהית
- שיקול דעת חזק בהערכת שפה ותוכן, כולל בחינה אם תגובות הבינה המלאכותית מדויקות, מלאות ומתאימות
- יכולת לזהות שגיאות עדינות, חוסר עקביות והשמטות
- יכולת לפעול בעקביות לפי הנחיות ותקני איכות
- יכולת להסביר את מהלך החשיבה בבירור לקהלים טכניים ולא טכניים
- יכולת הסתגלות לפרויקטים, סוגי משימות ולקוחות שונים
- יכולת לעבוד כקבלן עצמאי
- אין לדרוש תמיכה ב-H-1B או ב-STEM OPT
- יתרון: ניסיון בלמידת מכונה יריבה, כולל מערכי נתונים לעקיפת הגנות, הזרקות הנחיות, התקפות RLHF או DPO או חילוץ מודלים
- יתרון: ניסיון באבטחת סייבר בבדיקות חדירה, פיתוח ניצולים או הנדסה הפוכה
- יתרון: ניסיון בסיכונים סוציו-טכניים בבדיקת הטרדות או דיסאינפורמציה, ניתוח שימוש לרעה או בדיקות בינה מלאכותית לשיחה
- יתרון: ניסיון בפסיכולוגיה, משחק או כתיבה התומך בחשיבה יריבה לא שגרתית
הטבות
- עבודה מרחוק לחלוטין שניתן לבצע לפי לוח הזמנים האישי שלך
- תשלומים שבועיים באמצעות Stripe או Wise
- אפשרות להשתתף בפרויקטים בעלי רגישות גבוהה יותר
- הנחיות ברורות ומשאבי רווחה לעבודה הכוללת תוכן רגיש
- שכר תחרותי
- הזדמנות לשתף פעולה עם חוקרים מובילים
- תשלומי הפניה של עד 90 דולר עבור כל הפניה מוצלחת, בכפוף למגבלות