ردتیم‌گر ایمنی هوش مصنوعی
مرکور به‌دنبال ردتیم‌گر ایمنی هوش مصنوعی است تا آسیب‌پذیری‌های مدل‌های پیشرفته را در حوزه‌های پرخطر بررسی کند. این کار به آزمایشگاه‌های هوش مصنوعی برای آموزش و بهبود سامانه‌های پیشرفته کمک می‌کند.
توضیحات
- برای آزمودن مدل‌های پیشرفته هوش مصنوعی، پرامپت‌های خصمانه طراحی کنید.
- جیل‌بریک‌ها، رفتارهای ناایمن، توهم‌های مدل و نقض سیاست‌ها را پیدا کنید.
- استحکام مدل را در برابر اطلاعات نادرست، امنیت سایبری، امنیت زیستی، کلاه‌برداری، محتوای سیاسی و دیگر حوزه‌های حساس ارزیابی کنید.
- آسیب‌پذیری‌ها را ثبت کنید و در تهیه معیارهای سنجش ایمنی و گزارش‌های ردتیمینگ کمک کنید.
- برای تقویت هم‌راستایی، استحکام و ایمنی مدل با پژوهشگران هوش مصنوعی همکاری کنید.
- در پروژه‌های آموزش و بهبود سامانه‌های هوش مصنوعی مشارکت کنید.
شرایط لازم
- مدرک کارشناسی یا بالاتر در علوم کامپیوتر، امنیت سایبری، روزنامه‌نگاری، ارتباطات، روان‌شناسی، زیست‌شناسی، شیمی، سیاست‌گذاری عمومی یا رشته‌ای مرتبط.
- دست‌کم پنج سال تجربه حرفه‌ای در ایمنی هوش مصنوعی، ردتیمینگ هوش مصنوعی، اعتماد و ایمنی، امنیت سایبری، روزنامه‌نگاری تحقیقی، علوم زیستی یا حوزه‌ای مرتبط.
- توانایی قوی در استدلال تحلیلی، طراحی پرامپت و ارتباطات نوشتاری.
- تجربه در طراحی پرامپت‌های خصمانه یا ارزیابی سامانه‌های پیشرفته هوش مصنوعی.
- ساکن یکی از کشورهای واجد شرایط فهرست‌شده باشید: آلبانی، اتریش، بلژیک، بلغارستان، بوسنی و هرزگوین، سوئیس، چک، آلمان، دانمارک، اسپانیا، استونی، فنلاند، فرانسه، بریتانیا، یونان، کرواسی، مجارستان، ایرلند، ایسلند، ایتالیا، لیختن‌اشتاین، لیتوانی، لوکزامبورگ، لتونی، موناکو، مولداوی، مقدونیه شمالی، مالت، هلند، نروژ، لهستان، پرتغال، رومانی، سان‌مارینو، صربستان، اسلواکی، اسلوونی، سوئد، ایالات متحده یا کوزوو.
- در حال حاضر امکان پشتیبانی از متقاضیان H-1B و STEM OPT وجود ندارد.
مزایا
- کار کاملاً دورکار با برنامه زمانی منعطف.
- پرداخت هفتگی از طریق Stripe یا Wise بابت خدمات انجام‌شده.
- بسته به نیازهای پروژه و عملکرد، مدت پروژه ممکن است تمدید، کوتاه یا زودتر خاتمه داده شود.
- دستمزد رقابتی.
- فرصت همکاری با پژوهشگران برجسته هوش مصنوعی و تیم‌های ایمنی.
- تسهیلات معقول بنا به درخواست در دسترس است.
- برنامه معرفی که برای هر معرفی موفق تا سقف ۳۴۰ دلار پرداخت می‌کند؛ مشمول محدودیت‌ها.