ActiveFence هي شركة متخصصة في الأمن السيبراني والذكاء الاصطناعي، وتركز على الثقة والسلامة للمنصات الإلكترونية. يجمع عرضها المتكامل بين أبحاث الاستخبارات، واكتشاف المحتوى الضار بالاعتماد على الذكاء الاصطناعي، وأدوات الإشراف على المحتوى، لمساعدة المنصات على التعامل مع مخاطر مثل استغلال الأطفال، والمعلومات المضللة، وخطاب الكراهية، والإرهاب، والعري، والاحتيال، وغيرها من أشكال الضرر عبر الإنترنت. تدعم ActiveFence فرق الثقة والسلامة بمختلف أحجامها، وتساعد في حماية أكثر من ثلاثة مليارات مستخدم حول العالم عبر أكثر من 100 لغة.
باحث أول في الذكاء الاصطناعي – وظيفة هجينة في إسرائيل
قيادة تقييمات التعلم المعزز، واختبارات الاختراق، وعمليات التدقيق الأمني لنماذج الذكاء الاصطناعي ذات الأوزان المفتوحة. بناء مسارات للقياس والتدريب اللاحق ضمن أعمال ActiveFence في الثقة بالذكاء الاصطناعي وسلامته وأمنه.
الوصف
- قيادة تقييمات ما بعد التدريب، وتمارين اختبار الاختراق، وعمليات تدقيق بيئات التعلم المعزز لنماذج ذات أوزان مفتوحة
- تصميم منهجيات صارمة للقياس
- تقييم نماذج اللغة الكبيرة في مواجهة تهديدات متقدمة، بما في ذلك هجمات حقن التعليمات غير المباشر
- بناء مسارات تقييم ما بعد التدريب لقياس القدرات الأمنية الواقعية بمستوى رائد
- إجراء تجارب ما بعد التدريب، مثل GRPO، باستخدام نماذج عامة ذات أوزان مفتوحة في بيئات تعلم معزز تركز على الأمن
- فحص منحنيات الخسارة الحية وآثار عمليات التنفيذ لاكتشاف اختراق المكافأة، وتقارب السياسة الكسول، وأدوات التحقق سيئة التحديد
- تقييم المهام والبيئات متعددة الجولات التي تتضمن استخدام الأدوات، وتصفح الويب، واستخدام الحاسوب من حيث الواقعية، ودقة نموذج التهديد، وتوزيع البيانات، وتوازن مجموعة البيانات
- إعداد بطاقات تقييم تغطي مكاسب أداء نقاط التحقق، وأنماط الفشل، ورموز وجولات عمليات التنفيذ، ومعدلات النجاح على مستوى المهام
- دمج البيئات المعتمدة على Docker، بما في ذلك البيئات بتنسيق Harbor، في أطر التدريب الداخلية
- تحسين دلالات إعادة الضبط وحفظ الحالة، والتزامن، وحدود معدل المعالجة
المتطلبات
- درجة ماجستير أو دكتوراه في علم البيانات أو التعلم الآلي أو علوم الحاسوب، أو خبرة عملية مكافئة في التعلم العميق
- خبرة عملية في تدريب نماذج واسعة النطاق باستخدام خوارزميات التعلم المعزز مثل GRPO أو PPO على معماريات ذات أوزان مفتوحة
- معرفة قوية بثغرات نماذج اللغة الكبيرة، وممارسات اختبار الاختراق، والمواءمة الدفاعية ضد هجمات حقن التعليمات غير المباشر
- إتقان PyTorch وحاويات Docker ومعماريات التدريب الموزع
- القدرة على تفسير آثار تنفيذ الوكلاء، وإنشاء قواعد تقييم وأدوات تحقق حتمية، وتصحيح مشكلات تشكيل المكافآت المعقدة
- تُفضَّل الخبرة بأُطر بيئات التعلم المعزز القياسية مثل Harbor
- تُفضَّل الخبرة في تقييم سير العمل المعقدة للوكلاء ضمن بيئات استخدام الأدوات أو متصفحات الويب
- تُفضَّل الإلمام بتقييم نماذج ذات أوزان مفتوحة شبيهة بـ Llama أو Mistral في مواجهة أحمال عمل عدائية