
ActiveFence سائبر سکیورٹی اور مصنوعی ذہانت کی ایک کمپنی ہے جو آن لائن پلیٹ فارمز کے لیے اعتماد اور تحفظ پر توجہ مرکوز کرتی ہے۔ اس کی مکمل سروس میں انٹیلی جنس ریسرچ، نقصان دہ مواد کی مصنوعی ذہانت سے چلنے والی شناخت، اور مواد کی نگرانی کے ٹولز شامل ہیں، جو پلیٹ فارمز کو بچوں کے استحصال، گمراہ کن معلومات، نفرت انگیز تقریر، دہشت گردی، عریانی، دھوکا دہی اور آن لائن نقصان کی دیگر صورتوں جیسے خطرات سے نمٹنے میں مدد دیتے ہیں۔ ActiveFence مختلف سائز کی ٹرسٹ اور سیفٹی ٹیموں کی معاونت کرتی ہے اور 100 سے زیادہ زبانوں میں دنیا بھر کے تین ارب سے زائد صارفین کے تحفظ میں مددگار ہے۔
سینئر اے آئی محقق – اسرائیل میں ہائبرڈ
اوپن ویٹ اے آئی ماڈلز کے لیے رینفورسمنٹ لرننگ کی جانچ، ریڈ ٹیمنگ اور سیکیورٹی آڈٹس کی قیادت کریں۔ ActiveFence کے اے آئی ٹرسٹ، سیفٹی اور سیکیورٹی کے کام کے لیے بینچ مارکنگ اور پوسٹ ٹریننگ پائپ لائنز بنائیں۔
تفصیل
- اوپن ویٹ ماڈلز کے پوسٹ ٹریننگ جائزوں، ریڈ ٹیم مشقوں اور رینفورسمنٹ لرننگ جم آڈٹس کی قیادت کریں
- سخت بینچ مارکنگ طریقہ کار وضع کریں
- ان ڈائریکٹ پرامپٹ انجیکشن حملوں سمیت پیچیدہ خطرات کے خلاف بڑے زبان ماڈلز کا جائزہ لیں
- ایسی پوسٹ ٹریننگ جائزہ پائپ لائنز بنائیں جو حقیقی فرنٹیئر سطح کی سیکیورٹی صلاحیتوں کی پیمائش کریں
- سیکیورٹی پر مرکوز رینفورسمنٹ لرننگ ماحول میں اوپن ویٹ جنرلِسٹ ماڈلز کے ساتھ GRPO جیسے پوسٹ ٹریننگ تجربات چلائیں
- ریوارڈ ہیکنگ، سست پالیسی کنورجنس اور ناقص طور پر متعین ویری فائرز کا پتہ لگانے کے لیے لائیو لاس کروز اور رول آؤٹ ٹریسز کا جائزہ لیں
- ٹول استعمال، ویب نیویگیشن اور کمپیوٹر استعمال پر مشتمل کاموں اور ملٹی ٹرن ماحول کی حقیقت پسندی، تھریٹ ماڈل کی درستگی، ڈیٹا کی تقسیم اور ڈیٹاسیٹ کے توازن کا جائزہ لیں
- چیک پوائنٹ کی کارکردگی میں بہتری، ناکامی کے طریقوں، رول آؤٹ ٹوکنز اور ٹرنز، اور کام کی سطح پر کامیابی کی شرحوں پر مشتمل ایویلیوایشن کارڈز تیار کریں
- Harbor فارمیٹ کے ماحول سمیت Dockerائزڈ ماحول کو اندرونی ٹریننگ فریم ورکس میں ضم کریں
- ری سیٹ اور اسٹیٹ فُل نیس سیمنٹکس، کنکرنسی اور تھروپٹ کی حدود بہتر بنائیں
تقاضے
- ڈیٹا سائنس، مشین لرننگ یا کمپیوٹر سائنس میں ایم۔ایس۔ یا پی۔ایچ۔ڈی۔، یا گہری لرننگ کا مساوی عملی تجربہ
- اوپن ویٹ آرکیٹیکچرز پر GRPO یا PPO جیسے رینفورسمنٹ لرننگ الگورتھمز کے ذریعے بڑے پیمانے کے ماڈلز کی تربیت کا عملی تجربہ
- LLM کی کمزوریوں، ریڈ ٹیمنگ کے طریقوں اور ان ڈائریکٹ پرامپٹ انجیکشن حملوں کے خلاف دفاعی الائنمنٹ کا مضبوط علم
- PyTorch، Docker کنٹینرائزیشن اور ڈسٹری بیوٹڈ ٹریننگ آرکیٹیکچرز میں مہارت
- ایجنٹ رول آؤٹ ٹریسز کی تشریح، متعین رُبرکس اور ویری فائرز کی تخلیق، اور پیچیدہ ریوارڈ شیپنگ مسائل کو ڈیبگ کرنے کی صلاحیت
- Harbor جیسے معیاری رینفورسمنٹ لرننگ جم فارمیٹس کا تجربہ ترجیحی ہے
- ٹول استعمال یا ویب براؤزر ماحول میں پیچیدہ ایجنٹک ورک فلو کا جائزہ لینے کا تجربہ ترجیحی ہے
- مخالفانہ ورک لوڈز کے خلاف Llama جیسے یا Mistral جیسے اوپن ویٹ ماڈلز کی جانچ سے واقفیت ترجیحی ہے