متخصص ایمنی هوش مصنوعی – انگلیسی و آسامی | Mercor قرارداد دورکاری
آزمون خصمانه مدل‌های پیشرفته هوش مصنوعی را برای شناسایی جیلبریک، سوگیری، سوءاستفاده و دیگر خطرهای ایمنی انجام دهید. برای مشتریان Mercor حاشیه‌نویسی داده‌های انسانی، طبقه‌بندی آسیب‌پذیری‌ها و شواهد حمله قابل بازتولید تهیه کنید.
توضیحات
- مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را برای جیلبریک، تزریق پرامپت، سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای به‌صورت خصمانه آزمایش کنید
- حاشیه‌نویسی داده‌های انسانی ایجاد کنید، شکست‌ها را طبقه‌بندی کنید و خطرهای نظام‌مند را شناسایی کنید
- برای استانداردسازی ارزیابی‌ها از رده‌بندی‌ها، معیارها و راهنماهای تثبیت‌شده استفاده کنید
- گزارش‌ها، مجموعه‌داده‌ها و موارد حمله قابل بازتولید را برای مشتریان ارائه دهید
- پاسخ‌های هوش مصنوعی درباره سوگیری، اطلاعات نادرست، رفتار زیان‌بار و دیگر موضوعات حساس را ارزیابی کنید
- ضعف‌هایی را بیابید که آزمون خودکار آن‌ها را شناسایی نمی‌کند
- برای کمک به پیشگیری از مشکلات پیش‌بینی‌نشده در محیط عملیاتی، پوشش ارزیابی را گسترش دهید
- با آزمون خصمانه ساختاریافته، سامانه‌های هوش مصنوعی مشتریان را بهبود دهید
شرایط لازم
- تسلط هم‌سطح زبان مادری به انگلیسی و آسامی
- قضاوت سنجیده هنگام ارزیابی دقت، کامل‌بودن و مناسب‌بودن زبان و محتوا
- توانایی شناسایی خطاهای ظریف، ناسازگاری‌ها و موارد حذف‌شده
- پایبندی مداوم به دستورالعمل‌ها و استانداردهای کیفیت
- توانایی توضیح روشن استدلال برای مخاطبان فنی و غیرفنی
- انعطاف‌پذیری در پروژه‌ها، قالب‌های وظایف و نیازهای مشتریان
- ترجیحاً: تجربه یادگیری ماشین خصمانه با مجموعه‌داده‌های جیلبریک، تزریق پرامپت، حملات RLHF یا DPO، یا استخراج مدل
- ترجیحاً: تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحاً: تجربه خطرهای اجتماعی‌فنی در بررسی آزار و اذیت یا اطلاعات گمراه‌کننده، تحلیل سوءاستفاده یا آزمون هوش مصنوعی مکالمه‌ای
- ترجیحاً: تجربه روان‌شناسی، بازیگری یا نویسندگی که به تفکر خصمانه غیرمتعارف کمک کند
- باید به‌عنوان پیمانکار مستقل کار کنید
- از نامزدهای H-1B و STEM OPT پشتیبانی نمی‌شود
مزایا
- کاملاً دورکاری کار کنید
- برنامه کاری خود را انتخاب کنید
- پرداخت‌های هفتگی را از طریق Stripe یا Wise دریافت کنید
- تجربه عملی در ردتیمینگ هوش مصنوعی مبتنی بر داده‌های انسانی کسب کنید
- به مقاوم‌تر، ایمن‌تر و قابل‌اعتمادتر شدن سامانه‌های هوش مصنوعی کمک کنید
- با پژوهشگران برجسته کار کنید
- امکانات مناسب با درخواست در دسترس است
- برای معرفی‌های موفق تا ۹۰ دلار پاداش معرفی دریافت کنید