اے آئی سیفٹی ریڈ ٹیم ماہر – انگریزی اور فنش، ریاستہائے متحدہ میں ریموٹ کام
Mercor کے انسانی ڈیٹا والے اے آئی منصوبوں کے لیے مکالماتی اے آئی ماڈلز اور ایجنٹس کی مخالفانہ جانچ کریں۔ جدید اے آئی نظاموں کو مضبوط بنانے میں مدد کے لیے قابلِ تکرار کمزوریوں کا ڈیٹا تیار کریں۔
تفصیل
- جیل بریک، پرامپٹ انجیکشن، غلط استعمال کے حالات، تعصب کے استحصال اور متعدد مراحل پر مشتمل ہیرا پھیری کے ذریعے مکالماتی اے آئی ماڈلز اور ایجنٹس کی جانچ کریں
- ناکامیوں کی تشریح کریں، کمزوریوں کی درجہ بندی کریں اور نظامی خطرات کی نشاندہی کریں
- مسلسل جائزوں کے لیے قائم شدہ درجہ بندیوں، بینچ مارکس اور پلے بکس کا اطلاق کریں
- صارفین کے لیے قابلِ تکرار رپورٹس، ڈیٹاسیٹس اور حملے کے کیسز تیار کریں
- ایسی کمزوریوں کی نشاندہی کریں جنہیں خودکار جانچ نظرانداز کر سکتی ہے
- جائزے کے دائرے کو وسیع کریں اور پیداوار میں غیر متوقع مسائل کم کرنے میں مدد دیں
- اے آئی نظاموں کی تربیت اور بہتری کے منصوبوں پر سرکردہ محققین کے ساتھ کام کریں
تقاضے
- انگریزی اور فنش زبان میں روانی یا مادری زبان جیسی مہارت
- اے آئی مخالفانہ کام، سائبر سکیورٹی یا سماجی و تکنیکی جانچ میں سابقہ ریڈ ٹیمنگ کا تجربہ
- اے آئی نظاموں کی مخالفانہ جانچ کرنے اور انہیں ناکامی کے مقامات تک پہنچانے کی صلاحیت
- منظم جانچ کے لیے فریم ورکس یا بینچ مارکس کے اطلاق کا تجربہ
- تکنیکی اور غیر تکنیکی سامعین کے سامنے خطرات کو واضح طور پر بیان کرنے کی صلاحیت
- منصوبوں اور صارفین کی ضروریات کے مطابق ڈھلنے کی صلاحیت
- آزاد کنٹریکٹر کے طور پر کام کرنے کے لیے دستیابی
- H-1B یا STEM OPT امیدوار نہیں ہونا چاہیے
- ترجیحی: مخالفانہ مشین لرننگ کا تجربہ، جس میں جیل بریک ڈیٹاسیٹس، پرامپٹ انجیکشن، RLHF/DPO حملے یا ماڈل ایکسٹریکشن شامل ہوں
- ترجیحی: پینیٹریشن ٹیسٹنگ، ایکسپلوئٹ ڈویلپمنٹ یا ریورس انجینئرنگ میں سائبر سکیورٹی کا تجربہ
- ترجیحی: ہراسانی یا گمراہ کن معلومات کی جانچ، بدسلوکی کے تجزیے یا مکالماتی اے آئی ٹیسٹنگ میں سماجی و تکنیکی خطرے کا تجربہ
- ترجیحی: نفسیات، اداکاری یا تحریر کا ایسا تجربہ جو غیر روایتی مخالفانہ سوچ میں معاون ہو
مراعات
- مکمل طور پر ریموٹ کام
- لچکدار نظام الاوقات
- Stripe یا Wise کے ذریعے ہفتہ وار ادائیگیاں
- زیادہ حساسیت والے منصوبوں کے لیے فلاحی وسائل اور واضح رہنما اصول
- انسانی ڈیٹا والی اے آئی ریڈ ٹیمنگ میں تجربہ حاصل کرنے کا موقع
- اے آئی نظاموں کو زیادہ مضبوط، محفوظ اور قابلِ اعتماد بنانے میں براہِ راست مدد دینے کا موقع
- مسابقتی معاوضہ
- ہر کامیاب ریفرل کے لیے $250 تک ریفرل بونس