اے آئی ماڈل سیفٹی ریڈ ٹیمَر
مخالفانہ آزمائش کے ذریعے مرکور کے جدید اے آئی ماڈلز میں حفاظتی کمزوریاں تلاش کریں۔ کمزوریاں شناخت کریں اور ماڈل الائنمنٹ بہتر بنانے میں مدد دیں۔
تفصیل
- جدید اے آئی ماڈلز کو جانچنے کے لیے مخالفانہ پرامپٹس بنائیں۔
- جیل بریکس، غیر محفوظ رویے، ہیلوسینیشنز اور پالیسی کی خلاف ورزیاں تلاش کریں۔
- غلط معلومات، سائبر سکیورٹی، بایو سکیورٹی، دھوکا دہی، سیاسی مواد اور دیگر حساس شعبوں میں ماڈل کی مضبوطی جانچیں۔
- کمزوریوں کا ریکارڈ رکھیں اور سیفٹی بینچ مارکس اور ریڈ ٹیمنگ رپورٹس تیار کرنے میں مدد کریں۔
- ماڈل الائنمنٹ، مضبوطی اور حفاظت کو بہتر بنانے کے لیے اے آئی محققین کے ساتھ کام کریں۔
- جدید اے آئی ماڈلز کی اگلی نسل کو محفوظ بنانے اور بہتر بنانے میں مدد کریں۔
- اے آئی نظاموں کی تربیت اور بہتری کے منصوبوں میں حصہ لیں۔
تقاضے
- کمپیوٹر سائنس، سائبر سکیورٹی، صحافت، مواصلات، نفسیات، حیاتیات، کیمیا، عوامی پالیسی یا متعلقہ شعبے میں بیچلر ڈگری یا اس سے اعلیٰ
- اے آئی سیفٹی، اے آئی ریڈ ٹیمنگ، ٹرسٹ اینڈ سیفٹی، سائبر سکیورٹی، تحقیقاتی صحافت، لائف سائنسز یا متعلقہ شعبے میں کم از کم پانچ سال کا پیشہ ورانہ تجربہ
- تجزیاتی استدلال، پرامپٹ ڈیزائن اور تحریر کی مضبوط صلاحیتیں
- مخالفانہ پرامپٹس بنانے یا جدید اے آئی نظاموں کی جانچ کا تجربہ
- اے آئی ریڈ ٹیمنگ، RLHF، سپروائزڈ فائن ٹیوننگ، اے آئی الائنمنٹ یا ٹرسٹ اینڈ سیفٹی کا تجربہ ترجیحی ہے
- جیل بریک ٹیسٹنگ، پرامپٹ انجینئرنگ یا مخالفانہ جانچ کے طریقوں سے واقفیت ترجیحی ہے
- کم از کم ایک حساس شعبے، مثلاً سائبر سکیورٹی، بایو سکیورٹی، سیاسی مواد، غلط معلومات یا سائنسی حفاظت میں مہارت ترجیحی ہے
- H-1B یا STEM OPT اسپانسرشپ درکار نہیں ہونی چاہیے؛ مرکور ایسے امیدواروں کی معاونت نہیں کر سکتی جنہیں ان میں سے کسی اسپانسرشپ کی ضرورت ہو
مراعات
- مکمل طور پر ریموٹ کام اور لچکدار شیڈول
- انجام دی گئی خدمات کی ادائیگی Stripe یا Wise کے ذریعے ہر ہفتے
- منصوبے کی ضروریات اور کارکردگی کے مطابق اس کی مدت بدل سکتی ہے یا منصوبہ وقت سے پہلے ختم ہو سکتا ہے
- سرکردہ اے آئی محققین اور سیفٹی ٹیموں کے ساتھ کام
- حقیقی دنیا کے پیچیدہ حفاظتی چیلنجز سے اے آئی نظاموں کے نمٹنے کے طریقے بنانے میں مدد
- درخواست پر مناسب سہولتیں دستیاب ہیں
- حدود کے تابع، ہر کامیاب ریفرل پر 340 ڈالر تک ادائیگی