Mercor
Mercor
۵۱ – ۲۰۰ کارکنان
پروفایل موجود Mercor اطلاعات تأییدشده کافی درباره محصولات، خدمات، مشتریان، حوزه فعالیت یا تمرکز استخدامی آن ندارد تا بتوان بر اساس آن معرفی دقیقی از شرکت ارائه کرد. پیش از توصیف کسب‌وکار یا فرصت‌های آن، به منابع بیشتری نیاز است.

تیم قرمز ایمنی مدل هوش مصنوعی

با آزمون‌های خصمانه، آسیب‌پذیری‌های ایمنی مدل‌های پیشرفته هوش مصنوعی مرکور را بررسی کنید. آسیب‌پذیری‌ها را بیابید و به بهبود هم‌راستایی مدل کمک کنید.

توضیحات

  • برای بررسی مدل‌های پیشرفته هوش مصنوعی، پرامپت‌های خصمانه طراحی کنید.
  • جیل‌بریک‌ها، رفتارهای ناایمن، توهم‌ها و نقض سیاست‌ها را پیدا کنید.
  • تاب‌آوری مدل را در برابر اطلاعات نادرست، امنیت سایبری، امنیت زیستی، کلاهبرداری، محتوای سیاسی و دیگر حوزه‌های حساس بسنجید.
  • آسیب‌پذیری‌ها را ثبت کنید و در تهیه معیارهای ایمنی و گزارش‌های تیم قرمز همکاری کنید.
  • با پژوهشگران هوش مصنوعی برای تقویت هم‌راستایی، تاب‌آوری و ایمنی مدل همکاری کنید.
  • به محافظت و بهبود نسل بعدی مدل‌های پیشرفته هوش مصنوعی کمک کنید.
  • در پروژه‌های آموزش و بهبود سامانه‌های هوش مصنوعی مشارکت کنید.

شرایط لازم

  • مدرک کارشناسی یا بالاتر در علوم کامپیوتر، امنیت سایبری، روزنامه‌نگاری، ارتباطات، روان‌شناسی، زیست‌شناسی، شیمی، سیاست‌گذاری عمومی یا رشته‌ای مرتبط
  • حداقل پنج سال سابقه حرفه‌ای در ایمنی هوش مصنوعی، تیم قرمز هوش مصنوعی، اعتماد و ایمنی، امنیت سایبری، روزنامه‌نگاری تحقیقی، علوم زیستی یا حوزه‌ای مرتبط
  • توانایی قوی در استدلال تحلیلی، طراحی پرامپت و نگارش
  • سابقه طراحی پرامپت‌های خصمانه یا ارزیابی سامانه‌های پیشرفته هوش مصنوعی
  • سابقه در تیم قرمز هوش مصنوعی، RLHF، ریزتنظیم نظارت‌شده، هم‌راستایی هوش مصنوعی یا اعتماد و ایمنی امتیاز محسوب می‌شود
  • آشنایی با آزمون جیل‌بریک، مهندسی پرامپت یا روش‌های ارزیابی خصمانه امتیاز محسوب می‌شود
  • تخصص در دست‌کم یک حوزه حساس مانند امنیت سایبری، امنیت زیستی، محتوای سیاسی، اطلاعات نادرست یا ایمنی علمی امتیاز محسوب می‌شود
  • نباید به حمایت مالی ویزای H-1B یا STEM OPT نیاز داشته باشید؛ مرکور نمی‌تواند از داوطلبانی که به هر یک از این دو نوع حمایت نیاز دارند پشتیبانی کند

مزایا

  • کار کاملاً دورکار با برنامه زمانی منعطف
  • پرداخت هفتگی هزینه خدمات از طریق Stripe یا Wise
  • مدت پروژه ممکن است بر اساس نیازهای پروژه و عملکرد تغییر کند یا زودتر پایان یابد
  • همکاری با پژوهشگران برجسته هوش مصنوعی و تیم‌های ایمنی
  • کمک به شکل‌دهی نحوه مواجهه سامانه‌های هوش مصنوعی با چالش‌های پیچیده ایمنی در دنیای واقعی
  • امکانات متعارف در صورت درخواست فراهم می‌شود
  • پرداخت پاداش ارجاع تا سقف ۳۴۰ دلار برای هر ارجاع موفق، مشروط به محدودیت‌ها