متخصص ایمنی هوش مصنوعی دورکار (انگلیسی و کانادا)
با استفاده از ورودی‌های انگلیسی و کانادا، مدل‌های پیشرفته هوش مصنوعی Mercor را به‌صورت خصمانه آزمایش کنید تا آسیب‌پذیری‌ها را شناسایی کنید. داده‌های ایمنی قابل‌بازتولید، نمونه‌های حمله و گزارش‌هایی برای مشتریان هوش مصنوعی ایجاد کنید.
توضیحات
- مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را با جیلبریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای آزمایش کنید
- با حاشیه‌نویسی شکست‌ها، دسته‌بندی آسیب‌پذیری‌ها و شناسایی خطرهای سیستمی، داده‌های تولیدشده توسط انسان ایجاد کنید
- برای حفظ ارزیابی‌های یکدست از رده‌بندی‌ها، معیارها و راهنماهای عملیاتی تثبیت‌شده استفاده کنید
- گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله قابل‌بازتولیدی تهیه کنید که مشتریان بتوانند از آن‌ها استفاده کنند
- خروجی‌های هوش مصنوعی را درباره موضوعات حساس، از جمله سوگیری، اطلاعات نادرست و رفتار زیان‌بار، ارزیابی کنید
- ضعف‌هایی را بیابید که ارزیابی‌های خودکار ممکن است نادیده بگیرند
- برای کمک به پیشگیری از مشکلات پیش‌بینی‌نشده در محیط تولید، پوشش ارزیابی را گسترش دهید
- در پروژه‌هایی مشارکت کنید که سیستم‌های هوش مصنوعی را برای آزمایشگاه هوش مصنوعی Mercor و مشتریان سازمانی آموزش داده و بهبود می‌دهند
شرایط لازم
- تسلط بومی یا روان به هر دو زبان انگلیسی و کانادا
- قضاوت سنجیده هنگام ارزیابی زبان و محتوا، از جمله دقت، کامل‌بودن و مناسب‌بودن پاسخ‌های هوش مصنوعی
- توانایی توضیح روشن استدلال برای مخاطبان فنی و غیرفنی
- دقت زیاد نسبت به خطاهای ظریف، ناهماهنگی‌ها و موارد حذف‌شده
- توانایی به‌کارگیری مداوم رده‌بندی‌ها، معیارها، راهنماهای عملیاتی، دستورالعمل‌ها و استانداردهای کیفیت
- انعطاف‌پذیری برای کار روی پروژه‌ها، قالب‌های وظایف و مشتریان گوناگون
- کار به‌عنوان پیمانکار مستقل الزامی است
- متقاضیان نباید در حال پیگیری وضعیت H-1B یا STEM OPT باشند
- ترجیحاً: تجربه یادگیری ماشین خصمانه با مجموعه‌داده‌های جیلبریک، تزریق پرامپت، حملات RLHF یا DPO، یا استخراج مدل
- ترجیحاً: پیشینه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحاً: تجربه در ریسک اجتماعی-فنی، مانند بررسی آزار و اذیت یا اطلاعات نادرست، تحلیل سوءاستفاده یا آزمون هوش مصنوعی مکالمه‌ای
- ترجیحاً: تجربه در روان‌شناسی، بازیگری یا نویسندگی که به تفکر خصمانه غیرمتعارف کمک کند
مزایا
- کار قراردادی کاملاً دورکار با انعطاف‌پذیری در برنامه‌ریزی
- پرداخت هفتگی از طریق Stripe یا Wise بر اساس خدمات ارائه‌شده
- فرصت کسب تجربه در ردتیمینگ هوش مصنوعی مبتنی بر داده‌های انسانی و متمرکز بر ایمنی پیشرفته
- مشارکت معنادار در مقاوم‌تر، ایمن‌تر و قابل‌اعتمادتر کردن سیستم‌های هوش مصنوعی
- منابع سلامت و راهنمایی مشخص برای پروژه‌هایی که شامل محتوای حساس‌تر هستند
- امکان ارائه تسهیلات معقول upon request
- پرداخت معرفی تا سقف ۹۰ دلار برای هر معرفی موفق، مشروط به محدودیت‌های قابل‌اعمال