ActiveFence هي شركة متخصصة في الأمن السيبراني والذكاء الاصطناعي، وتركز على الثقة والسلامة للمنصات الإلكترونية. يجمع عرضها المتكامل بين أبحاث الاستخبارات، واكتشاف المحتوى الضار بالاعتماد على الذكاء الاصطناعي، وأدوات الإشراف على المحتوى، لمساعدة المنصات على التعامل مع مخاطر مثل استغلال الأطفال، والمعلومات المضللة، وخطاب الكراهية، والإرهاب، والعري، والاحتيال، وغيرها من أشكال الضرر عبر الإنترنت. تدعم ActiveFence فرق الثقة والسلامة بمختلف أحجامها، وتساعد في حماية أكثر من ثلاثة مليارات مستخدم حول العالم عبر أكثر من 100 لغة.
فريق الهجوم الأمني للذكاء الاصطناعي – التقييم الخصومي للذكاء الاصطناعي التوليدي في ActiveFence
طوّر هجمات خصومية ومجموعات بيانات ومعايير قياس لمنصة ActiveFence لأمن الذكاء الاصطناعي. اختبر متانة نماذج اللغة الكبيرة من خلال محاكاة الهجمات وأبحاث الثغرات.
الوصف
- صمّم هجمات خصومية جديدة.
- ساهم في بناء أنظمة قابلة للتوسع لتوليد الهجمات واختبارها على نطاق واسع.
- قيّم الهجمات من حيث الجودة والفعالية والحداثة وقابلية إعادة إنتاجها.
- اكتشف أنماط الهجمات الناشئة وثغرات النماذج.
- أنشئ مجموعات بيانات خصومية ومعايير قياس واختبارات تراجعية.
- شارك النتائج والأساليب وبيانات الهجمات المنظّمة مع فرق علوم البيانات والأمن والهندسة.
- ساهم في تعزيز متانة النماذج ووسائل الدفاع.
المتطلبات
- خبرة مهنية لا تقل عن ثلاث سنوات في الأمن السيبراني أو أبحاث الأمن أو محاكاة الهجمات أو مجال أمني ذي صلة.
- درجة البكالوريوس في علوم البيانات أو هندسة الحاسوب أو علوم الحاسوب أو مجال تقني وثيق الصلة.
- معرفة قوية بنماذج اللغة الكبيرة وحقن التعليمات وأمن الذكاء الاصطناعي.
- خبرة في محاكاة الهجمات أو أبحاث الأمن أو الاختبارات الخصومية.
- مهارات قوية في Python والأتمتة.
- مهارات إبداعية في حل المشكلات والقدرة على تطوير تقنيات هجوم جديدة.
- القدرة على تحليل النتائج وتوضيحها بجلاء.
- تُفضّل شهادات الأمن السيبراني الهجومي مثل OSWA أو OSWE أو OSCE3 أو SEC542 أو SEC522.