متخصص تیم قرمز ایمنی هوش مصنوعی (انگلیسی و پنجابی)
Mercor به دنبال متخصص ایمنی هوش مصنوعی مسلط به انگلیسی و پنجابی است تا مدل‌ها و عامل‌های مکالمه‌ای را با رویکرد تیم قرمز ارزیابی کند. این نقش قراردادی بر کشف آسیب‌پذیری‌ها، ایجاد نمونه‌های حمله و تهیه گزارش‌های ایمنی قابل‌بازتولید برای مشتریان پژوهش هوش مصنوعی تمرکز دارد.
توضیحات
- مدل‌ها و عامل‌های مکالمه‌ای هوش مصنوعی را با جیل‌بریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای آزمایش کنید
- خروجی مدل را درباره موضوعات حساس، از جمله سوگیری، اطلاعات نادرست و رفتار زیان‌بار، ارزیابی کنید
- شکست‌ها را مستندسازی کنید، آسیب‌پذیری‌ها را دسته‌بندی کنید و خطرهای نظام‌مند را شناسایی کنید
- برای حفظ ارزیابی‌های یکدست از رده‌بندی‌ها، معیارها و راهنماهای تثبیت‌شده استفاده کنید
- برای مشتریان گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله قابل‌بازتولید ایجاد کنید
- سیستم‌های هوش مصنوعی را برای یافتن ضعف‌هایی بررسی کنید که ممکن است آزمون خودکار از آن‌ها غافل شود
- برای کمک به محدود کردن مشکلات پیش‌بینی‌نشده در محیط تولید، پوشش ارزیابی را گسترش دهید
- با تیم قرمزِ انسانی و داده‌محور، سیستم‌های هوش مصنوعی مشتریان را بهبود دهید
شرایط لازم
- تسلط native یا روان به زبان‌های انگلیسی و پنجابی
- قضاوت قوی هنگام ارزیابی زبان و محتوا
- توانایی تشخیص دقیق، کامل و مناسب بودن پاسخ‌های هوش مصنوعی و توضیح این ارزیابی
- دقت بسیار زیاد نسبت به خطاهای ظریف، ناهماهنگی‌ها و موارد حذف‌شده
- پایبندی مداوم به دستورالعمل‌های آزمون و استانداردهای کیفیت
- توانایی توضیح روشن استدلال برای مخاطبان فنی و غیرفنی
- انعطاف‌پذیری برای کار روی پروژه‌ها، قالب‌های کاری و مشتریان مختلف
- آمادگی برای فعالیت به‌عنوان پیمانکار مستقل
- نباید به پشتیبانی H-1B یا STEM OPT نیاز داشته باشید
- تخصص‌های ترجیحی ممکن است شامل یادگیری ماشین خصمانه، مجموعه‌داده‌های جیل‌بریک، تزریق پرامپت، حملات RLHF/DPO، استخراج مدل، آزمون نفوذ، توسعه اکسپلویت، مهندسی معکوس، بررسی آزار و اذیت یا اطلاعات نادرست، تحلیل سوءاستفاده، آزمون هوش مصنوعی مکالمه‌ای، روان‌شناسی، بازیگری یا نویسندگی باشد
مزایا
- از هر مکانی که این نقش اجازه می‌دهد، به‌صورت دورکار فعالیت کنید
- برنامه کاری خود را تعیین کنید
- برای خدمات ارائه‌شده، پرداخت هفتگی از طریق Stripe یا Wise دریافت کنید
- پروژه‌ها بر اساس نیازهای کسب‌وکار و عملکرد ممکن است تمدید، کاهش یا زودتر خاتمه داده شوند
- به منابع سلامت و راهنمایی روشن برای پروژه‌های با حساسیت بیشتر دسترسی داشته باشید
- در تیم قرمز هوش مصنوعی مبتنی بر داده‌های انسانی تجربه کسب کنید
- به مقاوم‌تر، ایمن‌تر و قابل‌اعتمادتر شدن سیستم‌های هوش مصنوعی کمک کنید
- دستمزد رقابتی
- با پژوهشگران برجسته هوش مصنوعی همکاری کنید