متخصص ایمنی هوش مصنوعی – انگلیسی و مراتی (دورکاری)
Mercor به دنبال متخصصان ایمنی هوش مصنوعی مسلط به انگلیسی و مراتی است تا مدل‌ها و عامل‌های مکالمه‌ای را به‌صورت ردتیم آزمایش کنند. این کار شامل شناسایی آسیب‌پذیری‌ها، ارزیابی خروجی‌های حساس و ایجاد داده‌های ایمنی بازتولیدپذیر برای آزمایشگاه‌های هوش مصنوعی و مشتریان است.
توضیحات
- آزمایش ردتیم مدل‌ها و عامل‌های مکالمه‌ای هوش مصنوعی را با استفاده از جیل‌بریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای انجام دهید
- با حاشیه‌نویسی شکست‌ها، دسته‌بندی آسیب‌پذیری‌ها و شناسایی ریسک‌های سیستمی، داده‌های ارزیابی انسانی ایجاد کنید
- برای پشتیبانی از ارزیابی‌های سازگار، از طبقه‌بندی‌ها، معیارهای سنجش و راهنماهای عملیاتی موجود استفاده کنید
- برای مشتریان، گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله بازتولیدپذیر تهیه کنید
- خروجی‌های هوش مصنوعی مرتبط با سوگیری، اطلاعات نادرست، رفتار آسیب‌زا و دیگر موضوعات حساس را ارزیابی کنید
- آسیب‌پذیری‌هایی را شناسایی کنید که ممکن است آزمایش خودکار نادیده بگیرد
- برای کمک به کاهش مشکلات پیش‌بینی‌نشده در محیط تولید، پوشش ارزیابی را گسترش دهید
- به مشتریان کمک کنید ایمنی، استحکام و قابل‌اعتماد بودن سامانه‌های هوش مصنوعی خود را بهبود دهند
شرایط لازم
- تسلط زبان مادری به هر دو زبان انگلیسی و مراتی
- قضاوت قوی هنگام ارزیابی زبان و محتوا، از جمله تشخیص دقیق، کامل و مناسب بودن پاسخ‌های هوش مصنوعی
- توانایی شناسایی خطاهای ظریف، ناهماهنگی‌ها و موارد حذف‌شده
- توانایی پیروی مستمر از دستورالعمل‌ها و استانداردهای کیفیت
- توانایی توضیح روشن استدلال برای مخاطبان فنی و غیرفنی
- توانایی سازگاری با پروژه‌ها، انواع وظایف و مشتریان مختلف
- توانایی کار به‌عنوان پیمانکار مستقل
- نباید به پشتیبانی H-1B یا STEM OPT نیاز داشته باشید
- ترجیحاً: تجربه یادگیری ماشین خصمانه با مجموعه‌داده‌های جیل‌بریک، تزریق پرامپت، حملات RLHF یا DPO، یا استخراج مدل
- ترجیحاً: تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحاً: تجربه ریسک اجتماعی‌فنی در بررسی آزار و اذیت یا اطلاعات نادرست، تحلیل سوءاستفاده یا آزمایش هوش مصنوعی مکالمه‌ای
- ترجیحاً: تجربه روان‌شناسی، بازیگری یا نویسندگی که به تفکر خصمانه و نامتعارف کمک کند
مزایا
- کار کاملاً دورکاری که می‌توان آن را طبق برنامه زمانی خودتان انجام دهید
- پرداخت هفتگی از طریق Stripe یا Wise
- امکان مشارکت اختیاری در پروژه‌های با حساسیت بالاتر
- دستورالعمل‌های روشن و منابع سلامت و رفاه برای کار با محتوای حساس
- دستمزد رقابتی
- فرصت همکاری با پژوهشگران برجسته
- پرداخت ارجاعی تا سقف ۹۰ دلار برای هر ارجاع موفق، مشروط به محدودیت‌ها