قرارداد دورکاری تیم قرمز ایمنی هوش مصنوعی (ایالات متحده)
Mercor به دنبال یک عضو تیم قرمز ایمنی هوش مصنوعی است تا با آزمایش خصمانه، آسیب‌پذیری‌های مدل‌های پیشرفته هوش مصنوعی را شناسایی کند. این نقش شامل طراحی پرامپت و ارزیابی رفتارهای پرخطر مدل با همکاری پژوهشگران ایمنی هوش مصنوعی است.
توضیحات
- طراحی پرامپت‌های خصمانه برای به چالش کشیدن مدل‌های پیشرفته هوش مصنوعی
- شناسایی جیل‌بریک، رفتارهای ناایمن، توهمات و نقض سیاست‌ها
- ارزیابی استحکام مدل در زمینه‌های اطلاعات نادرست، امنیت سایبری، امنیت زیستی، کلاهبرداری، محتوای سیاسی و دیگر حوزه‌های حساس
- ثبت آسیب‌پذیری‌ها و پشتیبانی از معیارهای ایمنی و گزارش‌های تیم قرمز
- همکاری با پژوهشگران هوش مصنوعی برای تقویت هم‌راستایی، استحکام و ایمنی مدل
- مشارکت در پروژه‌هایی برای آموزش و بهبود سامانه‌های هوش مصنوعی
شرایط لازم
- مدرک کارشناسی یا بالاتر در علوم رایانه، امنیت سایبری، روزنامه‌نگاری، ارتباطات، روان‌شناسی، زیست‌شناسی، شیمی، سیاست‌گذاری عمومی یا حوزه‌ای مرتبط
- حداقل پنج سال تجربه حرفه‌ای در ایمنی هوش مصنوعی، تیم قرمز هوش مصنوعی، اعتماد و ایمنی، امنیت سایبری، روزنامه‌نگاری تحقیقی، علوم زیستی یا حوزه‌ای مرتبط
- توانایی قوی در استدلال تحلیلی، طراحی پرامپت و ارتباطات نوشتاری
- سابقه ایجاد پرامپت‌های خصمانه یا ارزیابی سامانه‌های پیشرفته هوش مصنوعی
- تجربه در تیم قرمز هوش مصنوعی، RLHF، SFT، هم‌راستایی هوش مصنوعی یا اعتماد و ایمنی مزیت محسوب می‌شود
- آشنایی با آزمون جیل‌بریک، مهندسی پرامپت یا روش‌های ارزیابی خصمانه مزیت محسوب می‌شود
- تخصص در یک یا چند حوزه مرزی مانند امنیت سایبری، امنیت زیستی، محتوای سیاسی، اطلاعات نادرست یا ایمنی علمی مزیت محسوب می‌شود
- توانایی کار به‌عنوان پیمانکار مستقل
- برای متقاضیان H-1B و STEM OPT پشتیبانی ارائه نمی‌شود
مزایا
- کار کاملاً دورکاری
- برنامه‌ریزی زمانی انعطاف‌پذیر
- پرداخت هفتگی از طریق Stripe یا Wise
- پروژه‌ها ممکن است بر اساس نیازهای کسب‌وکار و عملکرد تمدید، کوتاه یا زودتر پایان داده شوند
- کار در زمینه آزمایش خصمانه با پژوهشگران برجسته هوش مصنوعی و تیم‌های ایمنی
- فرصت اثرگذاری بر نحوه مواجهه سامانه‌های هوش مصنوعی با چالش‌های پیچیده ایمنی در دنیای واقعی
- امکانات مناسب بنا بر درخواست در دسترس است
- پرداخت ارجاعی تا سقف ۳۴۰ دلار برای هر ارجاع موفق، مشروط به محدودیت‌های ارجاع