متخصص ایمنی هوش مصنوعی دورکار در مرکور (انگلیسی و مراتی)
با آزمون‌های ردتیمی به زبان انگلیسی و مراتی، آسیب‌پذیری‌های مدل‌های هوش مصنوعی محاوره‌ای را بررسی کنید. برای پروژه‌های ایمنی هوش مصنوعی مبتنی بر داده‌های انسانی، مجموعه‌داده‌ها، نمونه‌های حمله و گزارش‌های بازتولیدپذیر ایجاد کنید.
توضیحات
- با استفاده از جیل‌بریک، تزریق فرمان، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای، مدل‌ها و عامل‌های هوش مصنوعی محاوره‌ای را ردتیم تست کنید
- با حاشیه‌نویسی خطاها، دسته‌بندی آسیب‌پذیری‌ها و شناسایی خطرهای سیستمی، داده‌های انسانی ایجاد کنید
- برای حفظ ارزیابی‌های منسجم از طبقه‌بندی‌ها، معیارهای سنجش و راهنماهای عملیاتی استفاده کنید
- برای مشتریان گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله بازتولیدپذیر تهیه کنید
- خروجی‌های هوش مصنوعی درباره موضوعات حساس، از جمله سوگیری، اطلاعات نادرست و رفتار زیان‌بار، را ارزیابی کنید
- ضعف‌هایی را شناسایی کنید که آزمون‌های خودکار ممکن است نادیده بگیرند
- برای کمک به پیشگیری از مشکلات پیش‌بینی‌نشده در محیط تولید، پوشش ارزیابی را گسترش دهید
- به مشتریان در بهبود ایمنی، استحکام و قابل‌اعتماد بودن سامانه‌های هوش مصنوعی‌شان کمک کنید
شرایط لازم
- تسلط روان یا مهارت زبان مادری در انگلیسی و مراتی الزامی است
- قضاوت سنجیده درباره زبان و محتوا، از جمله توانایی ارزیابی درست، کامل و مناسب بودن پاسخ‌های هوش مصنوعی و توضیح استدلال آن
- توجه استثنایی به خطاهای ظریف، ناهماهنگی‌ها و موارد حذف‌شده
- پایبندی مداوم به دستورالعمل‌های تعیین‌شده و استانداردهای کیفیت
- توانایی توضیح روشن استدلال برای مخاطبان فنی و غیرفنی
- توانایی سازگاری با پروژه‌ها، قالب‌های کاری و مشتریان مختلف
- باید به‌عنوان پیمانکار مستقل کار کنید
- از نامزدهای H1-B و STEM OPT پشتیبانی نمی‌شود
- ترجیحاً: تجربه یادگیری ماشین خصمانه با مجموعه‌داده‌های جیل‌بریک، تزریق فرمان، حملات RLHF یا DPO، یا استخراج مدل
- ترجیحاً: تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحاً: تجربه خطرهای اجتماعی-فنی شامل بررسی آزار و اذیت یا اطلاعات نادرست، تحلیل سوءاستفاده یا آزمون هوش مصنوعی محاوره‌ای
- ترجیحاً: تجربه روان‌شناسی، بازیگری یا نویسندگی که به تفکر خصمانه غیرمتعارف کمک کند
مزایا
- کار کاملاً دورکار
- برنامه کاری انعطاف‌پذیر با امکان انتخاب ساعات کاری
- پرداخت هفتگی از طریق Stripe یا Wise بر اساس خدمات ارائه‌شده
- مدت پروژه می‌تواند بر اساس نیازهای کسب‌وکار و عملکرد، تمدید، کوتاه یا زودتر خاتمه داده شود
- منابع سلامت و راهنمایی روشن برای پروژه‌هایی که با محتوای حساس‌تر سروکار دارند
- امکان ارائه تسهیلات معقول بنا بر درخواست
- برنامه معرفی که برای هر معرفی موفق تا ۹۰ دلار پرداخت می‌کند و محدودیتی برای تعداد معرفی‌ها ندارد
- فرصت همکاری با پژوهشگران برجسته
- کسب تجربه در اجرای ردتیمینگ هوش مصنوعی مبتنی بر داده‌های انسانی در خط مقدم ایمنی هوش مصنوعی