متخصص تیم قرمز ایمنی هوش مصنوعی – انگلیسی و تامیلی، قرارداد دورکاری
مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را با کاوش خصمانه و تحلیل ساختاریافته تیم قرمز از نظر آسیب‌پذیری آزمایش کنید. برای مشتریان آزمایشگاه هوش مصنوعی Mercor موارد حمله، داده‌های آسیب‌پذیری و گزارش‌های بازتولیدپذیر ایجاد کنید.
توضیحات
- مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را با استفاده از جیل‌بریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای بررسی کنید
- با مستندسازی شکست‌ها، دسته‌بندی آسیب‌پذیری‌ها و شناسایی خطرهای سیستمی، داده‌های برچسب‌گذاری‌شده توسط انسان ایجاد کنید
- برای حفظ ارزیابی‌های سازگار از رده‌بندی‌ها، معیارها و راهنماهای عملیاتی موجود استفاده کنید
- برای مشتریان گزارش‌ها، مجموعه‌داده‌ها و موارد حمله بازتولیدپذیر تهیه کنید
- خروجی‌های هوش مصنوعی مرتبط با سوگیری، اطلاعات نادرست، رفتار زیان‌بار و دیگر موضوعات حساس را ارزیابی کنید
- ضعف‌هایی را شناسایی کنید که ممکن است آزمون خودکار از آن‌ها غافل شود
- پوشش ارزیابی را گسترش دهید و به پیشگیری از مشکلات پیش‌بینی‌نشده در محیط تولید کمک کنید
- سامانه‌های هوش مصنوعی مشتریان را بهبود دهید و در ایجاد مدل‌های ایمن‌تر و قابل‌اعتمادتر مشارکت کنید
شرایط لازم
- تسلط در حد زبان مادری به هر دو زبان انگلیسی و تامیلی
- قضاوت سنجیده هنگام ارزیابی زبان و محتوا
- توانایی تشخیص دقیق، کامل و مناسب بودن پاسخ‌های هوش مصنوعی و توضیح این ارزیابی
- دقت و توجه زیاد به خطاهای ظریف، ناهماهنگی‌ها و موارد حذف‌شده
- توانایی اجرای مداوم دستورالعمل‌ها و استانداردهای کیفیت
- توانایی انتقال روشن استدلال به مخاطبان فنی و غیرفنی
- انعطاف‌پذیری در پروژه‌ها، قالب‌های کاری و مشتریان مختلف
- ترجیحاً: تجربه یادگیری ماشین خصمانه با مجموعه‌داده‌های جیل‌بریک، تزریق پرامپت، حملات RLHF یا DPO، یا استخراج مدل
- ترجیحاً: پیشینه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحاً: تجربه خطرهای اجتماعی‌فنی مانند بررسی آزار و اطلاعات نادرست، تحلیل سوءاستفاده یا آزمون هوش مصنوعی مکالمه‌ای
- ترجیحاً: تجربه کاوش خلاقانه در روان‌شناسی، بازیگری یا نویسندگی
- باید به‌عنوان پیمانکار مستقل کار کنید
- از نامزدهای H-1B و STEM OPT پشتیبانی نمی‌شود
مزایا
- کار کاملاً دورکاری
- برنامه زمانی منعطف با امکان تعیین ساعات کاری توسط خودتان
- پرداخت هفتگی از طریق Stripe یا Wise
- دستمزد ساعتی رقابتی
- فرصت کسب تجربه در تیم قرمز هوش مصنوعی مبتنی بر داده انسانی و متمرکز بر ایمنی مدل‌های پیشرفته
- مشارکت مستقیم در ایجاد سامانه‌های هوش مصنوعی مقاوم‌تر، ایمن‌تر و قابل‌اعتمادتر
- امکان مشارکت اختیاری در پروژه‌های حساس‌تر
- دستورالعمل‌ها و منابع سلامت و رفاه برای پروژه‌های دارای محتوای حساس
- امکان فراهم‌کردن تسهیلات معقول بنا بر درخواست
- برنامه معرفی با پرداخت حداکثر ۹۰ دلار برای هر معرفی موفق، مشروط به محدودیت‌های معرفی