ردتیم‌گر ایمنی هوش مصنوعی
مرکور به‌دنبال ردتیم‌گری در حوزه ایمنی هوش مصنوعی است تا مدل‌های پیشرو را با پرامپت‌های خصمانه بیازماید. این کار بر یافتن ضعف‌ها و کمک به شرکای آزمایشگاه‌های هوش مصنوعی برای بهبود هم‌راستایی، تاب‌آوری و ایمنی مدل متمرکز است.
توضیحات
- برای آزمودن مدل‌های پیشرو هوش مصنوعی، پرامپت‌های خصمانه طراحی کنید.
- جیل‌بریک‌ها، رفتارهای ناایمن، توهم‌زایی‌ها و موارد نقض سیاست‌ها را پیدا کنید.
- تاب‌آوری مدل را در حوزه‌های حساس، از جمله اطلاعات نادرست، امنیت سایبری، امنیت زیستی، کلاهبرداری و محتوای سیاسی ارزیابی کنید.
- آسیب‌پذیری‌ها را ثبت کنید و در آماده‌سازی معیارهای ایمنی و گزارش‌های ردتیمینگ کمک کنید.
- برای تقویت هم‌راستایی، تاب‌آوری و ایمنی مدل با پژوهشگران هوش مصنوعی همکاری کنید.
- در پروژه‌های آموزش و بهبود سامانه‌های هوش مصنوعی مشارکت کنید.
شرایط لازم
- مدرک کارشناسی یا بالاتر در علوم کامپیوتر، امنیت سایبری، روزنامه‌نگاری، ارتباطات، روان‌شناسی، زیست‌شناسی، شیمی، سیاست‌گذاری عمومی یا رشته‌ای مرتبط.
- حداقل پنج سال تجربه حرفه‌ای در ایمنی هوش مصنوعی، ردتیمینگ هوش مصنوعی، اعتماد و ایمنی، امنیت سایبری، روزنامه‌نگاری تحقیقی، علوم زیستی یا حوزه‌ای مرتبط.
- توانایی قوی در استدلال تحلیلی، طراحی پرامپت و ارتباط نوشتاری.
- تجربه در طراحی پرامپت‌های خصمانه یا ارزیابی سامانه‌های پیشرو هوش مصنوعی.
- تجربه در ردتیمینگ هوش مصنوعی، RLHF، SFT، هم‌راستایی هوش مصنوعی یا اعتماد و ایمنی مزیت محسوب می‌شود.
- آشنایی با آزمون جیل‌بریک، مهندسی پرامپت یا روش‌های ارزیابی خصمانه مزیت محسوب می‌شود.
- تخصص در حوزه‌های ظریفی مانند امنیت سایبری، امنیت زیستی، محتوای سیاسی، اطلاعات نادرست یا ایمنی علمی مزیت محسوب می‌شود.
- توانایی کار به‌عنوان پیمانکار مستقل.
- از نامزدهای H-1B و STEM OPT حمایت نمی‌شود.
مزایا
- از هر نقطه‌ای در ایالات متحده به‌صورت دورکاری کار کنید.
- برنامه کاری خود را تنظیم کنید.
- پرداخت‌های هفتگی از طریق Stripe یا Wise دریافت کنید.
- بسته به نیازهای پروژه و عملکرد، ممکن است مدت پروژه‌ها تمدید، کوتاه یا زودتر خاتمه داده شود.
- با پژوهشگران برجسته هوش مصنوعی و تیم‌های ایمنی همکاری کنید.
- به شکل‌گیری ایمنی سامانه‌های پیشرو هوش مصنوعی کمک کنید.
- در صورت درخواست، تسهیلات معقول فراهم می‌شود.
- برای هر معرفی موفق تا سقف ۳۴۰ دلار پاداش دریافت کنید؛ محدودیت‌هایی اعمال می‌شود.