ActiveFence یک شرکت فعال در زمینه امنیت سایبری و هوش مصنوعی است که بر اعتماد و ایمنی پلتفرم‌های آنلاین تمرکز دارد. راهکار جامع این شرکت پژوهش‌های اطلاعاتی، شناسایی محتوای آسیب‌زا با کمک هوش مصنوعی و ابزارهای تعدیل محتوا را ترکیب می‌کند تا پلتفرم‌ها بتوانند با خطراتی مانند بهره‌کشی از کودکان، اطلاعات نادرست، سخنان نفرت‌پراکن، تروریسم، برهنگی، کلاهبرداری و دیگر شکل‌های آسیب آنلاین مقابله کنند. ActiveFence از تیم‌های اعتماد و ایمنی در اندازه‌های مختلف پشتیبانی می‌کند و به حفاظت از بیش از سه میلیارد کاربر در سراسر جهان و در بیش از ۱۰۰ زبان کمک می‌کند.
پژوهشگر ارشد هوش مصنوعی – هیبرید در اسرائیل
رهبری ارزیابی یادگیری تقویتی، ردتیمینگ و ممیزی‌های امنیتی برای مدل‌های هوش مصنوعی با وزن‌های باز را بر عهده بگیرید. برای فعالیت‌های اعتماد، ایمنی و امنیت هوش مصنوعی ActiveFence، خط لوله‌های بنچمارک و پساآموزش بسازید.
توضیحات
- رهبری ارزیابی‌های پساآموزش، تمرین‌های ردتیم و ممیزی‌های محیط یادگیری تقویتی را برای مدل‌های با وزن‌های باز بر عهده بگیرید
- روش‌شناسی‌های دقیق بنچمارک‌سازی طراحی کنید
- مدل‌های زبانی بزرگ را در برابر تهدیدهای پیچیده، از جمله حملات تزریق پرامپت غیرمستقیم، ارزیابی کنید
- خط لوله‌های ارزیابی پساآموزش بسازید که قابلیت‌های امنیتی واقع‌گرایانه در سطح پیشرفته را اندازه‌گیری کنند
- آزمایش‌های پساآموزش مانند GRPO را با مدل‌های عمومی دارای وزن باز در محیط‌های یادگیری تقویتی متمرکز بر امنیت اجرا کنید
- برای شناسایی هک پاداش، همگرایی تنبلانه سیاست و راستی‌آزماهای با مشخصات ضعیف، منحنی‌های زیان زنده و ردپاهای رول‌اوت را بررسی کنید
- وظایف و محیط‌های چندنوبتی شامل استفاده از ابزار، پیمایش وب و استفاده از رایانه را از نظر واقع‌گرایی، دقت مدل تهدید، توزیع داده و توازن مجموعه‌داده ارزیابی کنید
- کارت‌های ارزیابی شامل بهبود عملکرد چک‌پوینت، حالت‌های شکست، توکن‌ها و نوبت‌های رول‌اوت و نرخ موفقیت در سطح وظیفه تولید کنید
- محیط‌های داکری‌شده، از جمله محیط‌های قالب Harbor، را در چارچوب‌های آموزشی داخلی یکپارچه کنید
- معناشناسی بازنشانی و حالت‌مندی، هم‌روندی و محدودیت‌های توان عملیاتی را بهبود دهید
شرایط لازم
- مدرک کارشناسی ارشد یا دکترا در علوم داده، یادگیری ماشین یا علوم کامپیوتر، یا تجربه عملی معادل در یادگیری عمیق
- تجربه عملی آموزش مدل‌های مقیاس‌بالا با الگوریتم‌های یادگیری تقویتی مانند GRPO یا PPO روی معماری‌های دارای وزن باز
- دانش قوی از آسیب‌پذیری‌های LLM، شیوه‌های ردتیمینگ و هم‌راستاسازی دفاعی در برابر حملات تزریق پرامپت غیرمستقیم
- تسلط بر PyTorch، کانتینرسازی Docker و معماری‌های آموزش توزیع‌شده
- توانایی تفسیر ردپاهای رول‌اوت عامل، ایجاد روبریک‌ها و راستی‌آزماهای قطعی و رفع اشکال مسائل پیچیده شکل‌دهی پاداش
- تجربه با قالب‌های استاندارد محیط یادگیری تقویتی مانند Harbor ترجیح داده می‌شود
- تجربه ارزیابی گردش‌کارهای پیچیده عامل‌محور در محیط‌های استفاده از ابزار یا مرورگر وب ترجیح داده می‌شود
- آشنایی با ارزیابی مدل‌های دارای وزن باز شبیه Llama یا شبیه Mistral در برابر بارهای کاری خصمانه ترجیح داده می‌شود