متخصص ایمنی هوش مصنوعی – انگلیسی و بنگالی (قرارداد دورکاری)
Mercor به‌دنبال یک عضو تیم قرمز ایمنی هوش مصنوعی مسلط به انگلیسی و بنگالی است تا آسیب‌پذیری‌های سامانه‌های هوش مصنوعی مکالمه‌ای را شناسایی کند. این نقش شامل تولید موارد حمله قابل‌بازآفرینی و داده‌های تولیدشده توسط انسان برای آزمایشگاه‌های هوش مصنوعیِ آموزش‌دهنده مدل‌های پیشرو است.
توضیحات
- مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را با استفاده از جیلبریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای آزمایش کنید
- با حاشیه‌نویسی خطاها، دسته‌بندی آسیب‌پذیری‌ها و شناسایی خطرهای سیستمی، داده‌های تولیدشده توسط انسان ایجاد کنید
- برای یکدست نگه‌داشتن ارزیابی‌ها از رده‌بندی‌ها، معیارهای سنجش و دستورالعمل‌های تثبیت‌شده استفاده کنید
- گزارش‌ها، مجموعه‌داده‌ها و موارد حمله قابل‌بازآفرینی را برای مشتریان ارائه دهید
- پاسخ‌های هوش مصنوعی درباره سوگیری، اطلاعات نادرست، رفتار زیان‌بار و دیگر موضوعات حساس را ارزیابی کنید
- دامنه ارزیابی را گسترش دهید و در تقویت سامانه‌های هوش مصنوعی مشتریان مشارکت کنید
شرایط لازم
- تسلط بومی یا روان به هر دو زبان انگلیسی و بنگالی
- قضاوت سنجیده هنگام ارزیابی زبان و محتوا، از جمله توانایی تعیین و توضیح اینکه پاسخ‌های هوش مصنوعی دقیق، کامل و مناسب هستند یا خیر
- توجه زیاد به خطاهای ظریف، ناسازگاری‌ها و موارد حذف‌شده
- پایبندی قابل‌اعتماد به دستورالعمل‌های آزمایش و استانداردهای کیفیت
- توانایی انتقال روشن استدلال به مخاطبان فنی و غیرفنی
- آمادگی برای سازگاری با پروژه‌ها، قالب‌های کاری و مشتریان مختلف
- توانایی کار به‌عنوان پیمانکار مستقل
- نباید به حمایت مالی ویزای H-1B یا STEM OPT نیاز داشته باشید
- ترجیحی: تجربه یادگیری ماشین تهاجمی با مجموعه‌داده‌های جیلبریک، تزریق پرامپت، حملات RLHF/DPO یا استخراج مدل
- ترجیحی: تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحی: تجربه ریسک اجتماعی-فنی در بررسی آزار و اذیت یا اطلاعات گمراه‌کننده، تحلیل سوءاستفاده یا آزمایش هوش مصنوعی مکالمه‌ای
- ترجیحی: تجربه روان‌شناسی، بازیگری یا نویسندگی که به تفکر تهاجمیِ نامتعارف کمک کند
مزایا
- کاملاً به‌صورت دورکاری کار کنید
- برنامه‌ای منعطف تنظیم کنید و مطابق زمان در دسترس خود کار کنید
- پرداخت هفتگی از طریق Stripe یا Wise دریافت کنید
- انتخاب کنید که در پروژه‌های حساس‌تر مشارکت کنید یا خیر
- برای تکالیف دارای محتوای حساس به راهنمایی روشن و منابع سلامت و رفاه دسترسی داشته باشید
- دستمزد رقابتی دریافت کنید
- در زمینه ردتیمینگ هوش مصنوعی مبتنی بر داده‌های انسانی تجربه کسب کنید
- با پژوهشگران برجسته هوش مصنوعی همکاری کنید
- برای هر معرفی موفق تا ۹۰ دلار پاداش معرفی دریافت کنید