ردتیمِ ایمنی هوش مصنوعی – قرارداد دورکاری در ایالات متحده
Mercor به دنبال یک ردتیمِ ایمنی هوش مصنوعی به‌صورت قراردادی است تا مدل‌های هوش مصنوعی پیشرو را به چالش بکشد و آسیب‌پذیری‌ها را کشف کند. این نقش بر حوزه‌های پرخطر تمرکز دارد و به توسعه سامانه‌های هوش مصنوعی ایمن‌تر و قابل‌اعتمادتر کمک می‌کند.
توضیحات
- ایجاد پرامپت‌های خصمانه برای به چالش کشیدن دقیق مدل‌های هوش مصنوعی پیشرو
- شناسایی جیل‌بریک‌ها، رفتار ناایمن، توهمات و ناتوانی در پیروی از سیاست‌های ایمنی
- ارزیابی تاب‌آوری مدل در برابر اطلاعات نادرست، امنیت سایبری، زیست‌ایمنی، کلاهبرداری، محتوای سیاسی و دیگر حوزه‌های حساس
- ثبت ضعف‌های کشف‌شده و پشتیبانی از معیارهای ایمنی و گزارش‌های ردتیمینگ
- همکاری با پژوهشگران هوش مصنوعی برای پیشبرد هم‌راستاسازی، استحکام و ایمنی مدل
- کمک به حفاظت و بهبود سامانه‌های نوظهور هوش مصنوعی پیشرو
- شکل دادن به نحوه برخورد مدل‌های هوش مصنوعی با سناریوهای دشوار ایمنی در زمینه‌های واقعی
شرایط لازم
- مدرک کارشناسی یا بالاتر در علوم کامپیوتر، امنیت سایبری، روزنامه‌نگاری، ارتباطات، روان‌شناسی، زیست‌شناسی، شیمی، سیاست‌گذاری عمومی یا رشته‌ای مرتبط
- حداقل پنج سال تجربه حرفه‌ای در ایمنی هوش مصنوعی، ردتیمینگ هوش مصنوعی، اعتماد و ایمنی، امنیت سایبری، روزنامه‌نگاری تحقیقی، علوم زیستی یا حوزه‌ای مرتبط
- قضاوت تحلیلی قوی، توانایی توسعه پرامپت و مهارت‌های ارتباطی نوشتاری
- تجربه عملی در ایجاد پرامپت‌های خصمانه یا ارزیابی سامانه‌های هوش مصنوعی پیشرو
- ترجیحاً: سابقه در ردتیمینگ هوش مصنوعی، RLHF، SFT، هم‌راستاسازی هوش مصنوعی یا اعتماد و ایمنی
- ترجیحاً: آشنایی با ارزیابی جیل‌بریک، مهندسی پرامپت یا روش‌های ارزیابی خصمانه
- ترجیحاً: تخصص در حوزه‌های ظریفی مانند امنیت سایبری، زیست‌ایمنی، محتوای سیاسی، اطلاعات نادرست یا ایمنی علمی
- آمادگی برای کار به‌عنوان پیمانکار مستقل
- از نامزدهای H-1B و STEM OPT پشتیبانی نمی‌شود
مزایا
- کار کاملاً دورکاری
- تعیین ساعات کاری شخصی و تکمیل وظایف طبق برنامه‌ای انعطاف‌پذیر
- دریافت پرداخت‌های هفتگی از طریق Stripe یا Wise
- مدت پروژه ممکن است بر اساس نیازهای کسب‌وکار و عملکرد تغییر کند یا زودتر پایان یابد
- دستمزد رقابتی
- همکاری با پژوهشگران برجسته هوش مصنوعی و تیم‌های ایمنی
- امکانات معقول در صورت درخواست در دسترس است
- برنامه معرفی با امکان دریافت حداکثر ۳۴۰ دلار برای هر معرفی موفق، مشروط به محدودیت‌های معرفی