ردتیم قرمز ایمنی هوش مصنوعی - دورکاری در ایالات متحده
Mercor به دنبال یک ردتیم قرمز ایمنی هوش مصنوعی به‌صورت دورکار است تا مدل‌های پیشرفته هوش مصنوعی را به چالش بکشد و آسیب‌پذیری‌ها را در حوزه‌های پرخطر شناسایی کند. این نقش قراردادی از آزمایشگاه‌های هوش مصنوعی که سیستم‌های پیشرفته را توسعه و بهبود می‌دهند پشتیبانی می‌کند.
توضیحات
- برای بررسی مدل‌های پیشرفته هوش مصنوعی، پرامپت‌های خصمانه طراحی کنید
- جیل‌بریک‌ها، رفتار ناایمن، توهمات و نقض سیاست‌ها را شناسایی کنید
- مقاومت مدل را در برابر اطلاعات نادرست، تهدیدهای سایبری، خطرات زیست‌امنیتی، کلاهبرداری، محتوای سیاسی و دیگر موضوعات حساس ارزیابی کنید
- آسیب‌پذیری‌های کشف‌شده را ثبت کنید و در تهیه معیارهای ایمنی و گزارش‌های ردتیم قرمز کمک کنید
- برای تقویت هم‌راستایی، استحکام و ایمنی مدل با پژوهشگران هوش مصنوعی همکاری کنید
- در پروژه‌های آموزش و بهبود سیستم‌های هوش مصنوعی مشارکت کنید
شرایط لازم
- مدرک کارشناسی یا بالاتر در علوم کامپیوتر، امنیت سایبری، روزنامه‌نگاری، ارتباطات، روان‌شناسی، زیست‌شناسی، شیمی، سیاست‌گذاری عمومی یا حوزه‌ای مرتبط
- حداقل پنج سال تجربه حرفه‌ای در ایمنی هوش مصنوعی، ردتیم قرمز هوش مصنوعی، اعتماد و ایمنی، امنیت سایبری، روزنامه‌نگاری تحقیقی، علوم زیستی یا حوزه‌ای مرتبط
- قضاوت تحلیلی قوی، توانایی طراحی پرامپت و مهارت‌های ارتباطی نوشتاری
- تجربه در ایجاد پرامپت‌های خصمانه یا ارزیابی سیستم‌های پیشرفته هوش مصنوعی
- تجربه در ردتیم قرمز هوش مصنوعی، RLHF، SFT، هم‌راستایی هوش مصنوعی یا اعتماد و ایمنی مزیت محسوب می‌شود
- آشنایی با آزمون جیل‌بریک، مهندسی پرامپت یا روش‌های ارزیابی خصمانه مزیت محسوب می‌شود
- تخصص در دست‌کم یک حوزه خاکستری مانند امنیت سایبری، زیست‌امنیت، محتوای سیاسی، اطلاعات نادرست یا ایمنی علمی مزیت محسوب می‌شود
- توانایی کار به‌عنوان پیمانکار مستقل
- برای نامزدهای H-1B و STEM OPT پشتیبانی ارائه نمی‌شود
مزایا
- کار کاملاً دورکار
- برنامه زمانی منعطف و خودمدیریت‌شده
- پرداخت هفتگی از طریق Stripe یا Wise
- پروژه‌ها بر اساس نیازهای کسب‌وکار و عملکرد می‌توانند تمدید، کوتاه یا زودتر خاتمه داده شوند
- دستمزد رقابتی
- همکاری با پژوهشگران برجسته هوش مصنوعی و تیم‌های ایمنی
- امکانات مناسب بنا بر درخواست در دسترس است
- پرداخت ارجاعی تا سقف ۳۴۰ دلار برای هر ارجاع موفق، مشروط به محدودیت‌های قابل‌اعمال