מומחה לבטיחות בינה מלאכותית (אנגלית וטֶלוּגוּ) – חוזה עבודה מרחוק
ביצוע הערכות Red Team למודלים ולסוכנים של בינה מלאכותית שיחתית עבור Mercor, תוך התמקדות בבטיחות בשפות אנגלית וטֶלוּגוּ. יצירת נתוני פגיעויות, מקרי תקיפה ודוחות הניתנים לשחזור כדי לתמוך בפיתוח בינה מלאכותית בטוחה יותר.
ארצות הברית16 $ – 22 $ / שעה
מרחוקחוזהרמת בינייםסניורשפה נדרשת: אנגליתשפה נדרשת: טלוגובינה מלאכותיתתיאור
- בדיקת מודלים וסוכנים של בינה מלאכותית שיחתית באמצעות עקיפת הגבלות, הזרקות פרומפטים, תרחישי שימוש לרעה, ניצול הטיות ומניפולציה רב־שלבית
- תיעוד כשלים, סיווג פגיעויות וזיהוי סיכונים מערכתיים
- שימוש בטקסונומיות, בבנצ'מרקים ובמדריכי עבודה לשמירה על הערכות עקביות
- יצירת דוחות, מערכי נתונים ומקרי תקיפה הניתנים לשחזור עבור לקוחות
- הערכת פלטים של בינה מלאכותית הכוללים הטיות, מידע שגוי, התנהגות מזיקה ונושאים רגישים אחרים
- תרומה לפרויקטים שמאמנים ומשפרים מערכות בינה מלאכותית
- זיהוי פגיעויות שבדיקות אוטומטיות אינן מאתרות
- הרחבת כיסוי ההערכה כדי לסייע בהפחתת בעיות בלתי צפויות בסביבת הייצור
דרישות
- שליטה ברמת שפת אם או ברמה שוטפת באנגלית ובטֶלוּגוּ
- שיקול דעת נכון בעת הערכת הדיוק, השלמות וההתאמה של תגובות בינה מלאכותית
- יכולת להסביר את תהליך החשיבה בבירור לקהלים טכניים ולא־טכניים
- תשומת לב קפדנית לשגיאות עדינות, לחוסר עקביות ולהשמטות
- הקפדה עקבית על הנחיות ועל תקני איכות
- גמישות בין פרויקטים, פורמטים של משימות ולקוחות
- נכונות לעבוד כקבלן עצמאי
- אין להיות מועמד ל־H-1B או ל־STEM OPT; תחומי התמחות רלוונטיים עשויים לכלול למידת מכונה אדברסרית, מערכי נתונים לעקיפת הגבלות, הזרקות פרומפטים, מתקפות RLHF/DPO, חילוץ מודלים, בדיקות חדירה, פיתוח ניצולים, הנדסה לאחור, בדיקת הטרדה או דיסאינפורמציה, ניתוח שימוש לרעה, בדיקות בינה מלאכותית שיחתית, פסיכולוגיה, משחק או כתיבה.
- הטבות
הטבות
- עבודה מרחוק לחלוטין בלוח זמנים שתגדירו
- קבלת תשלומים שבועיים באמצעות Stripe או Wise עבור השירותים שניתנו
- צבירת ניסיון ב־Red Teaming של בינה מלאכותית המבוסס על נתונים אנושיים ומתמקד בבטיחות מתקדמת
- סיוע בהפיכת מערכות בינה מלאכותית לחסינות, בטוחות ואמינות יותר
- בחירה אם להשתתף בפרויקטים בעלי רגישות גבוהה יותר
- גישה להנחיות ברורות ולמשאבי רווחה עבור פרויקטים בעלי רגישות גבוהה יותר
- אפשרות לבקש התאמות סבירות
- השתכרות של עד 90 דולר עבור כל הפניה מוצלחת, ללא הגבלה מוצהרת על מספר ההפניות