تیم قرمز ایمنی مدل هوش مصنوعی
با آزمونهای خصمانه، آسیبپذیریهای ایمنی مدلهای پیشرفته هوش مصنوعی مرکور را بررسی کنید. آسیبپذیریها را بیابید و به بهبود همراستایی مدل کمک کنید.
توضیحات
- برای بررسی مدلهای پیشرفته هوش مصنوعی، پرامپتهای خصمانه طراحی کنید.
- جیلبریکها، رفتارهای ناایمن، توهمها و نقض سیاستها را پیدا کنید.
- تابآوری مدل را در برابر اطلاعات نادرست، امنیت سایبری، امنیت زیستی، کلاهبرداری، محتوای سیاسی و دیگر حوزههای حساس بسنجید.
- آسیبپذیریها را ثبت کنید و در تهیه معیارهای ایمنی و گزارشهای تیم قرمز همکاری کنید.
- با پژوهشگران هوش مصنوعی برای تقویت همراستایی، تابآوری و ایمنی مدل همکاری کنید.
- به محافظت و بهبود نسل بعدی مدلهای پیشرفته هوش مصنوعی کمک کنید.
- در پروژههای آموزش و بهبود سامانههای هوش مصنوعی مشارکت کنید.
شرایط لازم
- مدرک کارشناسی یا بالاتر در علوم کامپیوتر، امنیت سایبری، روزنامهنگاری، ارتباطات، روانشناسی، زیستشناسی، شیمی، سیاستگذاری عمومی یا رشتهای مرتبط
- حداقل پنج سال سابقه حرفهای در ایمنی هوش مصنوعی، تیم قرمز هوش مصنوعی، اعتماد و ایمنی، امنیت سایبری، روزنامهنگاری تحقیقی، علوم زیستی یا حوزهای مرتبط
- توانایی قوی در استدلال تحلیلی، طراحی پرامپت و نگارش
- سابقه طراحی پرامپتهای خصمانه یا ارزیابی سامانههای پیشرفته هوش مصنوعی
- سابقه در تیم قرمز هوش مصنوعی، RLHF، ریزتنظیم نظارتشده، همراستایی هوش مصنوعی یا اعتماد و ایمنی امتیاز محسوب میشود
- آشنایی با آزمون جیلبریک، مهندسی پرامپت یا روشهای ارزیابی خصمانه امتیاز محسوب میشود
- تخصص در دستکم یک حوزه حساس مانند امنیت سایبری، امنیت زیستی، محتوای سیاسی، اطلاعات نادرست یا ایمنی علمی امتیاز محسوب میشود
- نباید به حمایت مالی ویزای H-1B یا STEM OPT نیاز داشته باشید؛ مرکور نمیتواند از داوطلبانی که به هر یک از این دو نوع حمایت نیاز دارند پشتیبانی کند
مزایا
- کار کاملاً دورکار با برنامه زمانی منعطف
- پرداخت هفتگی هزینه خدمات از طریق Stripe یا Wise
- مدت پروژه ممکن است بر اساس نیازهای پروژه و عملکرد تغییر کند یا زودتر پایان یابد
- همکاری با پژوهشگران برجسته هوش مصنوعی و تیمهای ایمنی
- کمک به شکلدهی نحوه مواجهه سامانههای هوش مصنوعی با چالشهای پیچیده ایمنی در دنیای واقعی
- امکانات متعارف در صورت درخواست فراهم میشود
- پرداخت پاداش ارجاع تا سقف ۳۴۰ دلار برای هر ارجاع موفق، مشروط به محدودیتها
