ActiveFence היא חברת סייבר ובינה מלאכותית המתמקדת באמון ובבטיחות עבור פלטפורמות מקוונות. ההיצע המקיף שלה משלב מחקר מודיעיני, זיהוי תוכן מזיק באמצעות בינה מלאכותית וכלים לניהול תוכן, כדי לסייע לפלטפורמות להתמודד עם סיכונים כגון ניצול ילדים, דיסאינפורמציה, דברי שנאה, טרור, עירום, הונאה וצורות נוספות של פגיעה ברשת. ActiveFence תומכת בצוותי אמון ובטיחות בכל הגדלים ומסייעת להגן על יותר משלושה מיליארד משתמשים ברחבי העולם ביותר מ-100 שפות.
צוות תקיפה לבינה מלאכותית – הערכה אדברסרית של בינה מלאכותית יוצרת ב-ActiveFence
פיתוח מתקפות אדברסריות, מערכי נתונים ומבחני ביצועים לפלטפורמת אבטחת הבינה המלאכותית של ActiveFence. בדיקת החוסן של מודלי שפה גדולים באמצעות צוותי תקיפה ומחקר חולשות.
תיאור
- תכנון מתקפות אדברסריות חדשות.
- סיוע בבניית מערכות הניתנות להרחבה ליצירה ולבדיקה של מתקפות בהיקף נרחב.
- הערכת איכות, יעילות, חדשנות ושחזוריות של מתקפות.
- איתור דפוסי תקיפה מתפתחים ופגיעויות במודלים.
- יצירת מערכי נתונים אדברסריים, מבחני ביצועים ובדיקות רגרסיה.
- שיתוף ממצאים, שיטות ונתוני תקיפה מובְנים עם צוותי מדעי הנתונים, האבטחה וההנדסה.
- תרומה לחיזוק החוסן של מודלים ושל מנגנוני ההגנה.
דרישות
- לפחות שלוש שנות ניסיון מקצועי באבטחת סייבר, במחקר אבטחה, בצוותי תקיפה או בתחום אבטחה קשור.
- תואר ראשון במדעי הנתונים, בהנדסת מחשבים, במדעי המחשב או בתחום טכני קרוב.
- ידע מעמיק במודלי שפה גדולים, בהזרקת הנחיות ובאבטחת בינה מלאכותית.
- ניסיון בצוותי תקיפה, במחקר אבטחה או בבדיקות אדברסריות.
- שליטה גבוהה ב-Python ובאוטומציה.
- יכולת יצירתית לפתור בעיות ולפתח טכניקות תקיפה חדשות.
- יכולת לנתח תוצאות ולהציג ממצאים בבהירות.
- יתרון להסמכות באבטחת סייבר התקפית כגון OSWA, OSWE, OSCE3, SEC542 או SEC522.