متخصص ایمنی هوش مصنوعی – انگلیسی و مراتی (قرارداد دورکاری)
Mercor به دنبال متخصص ایمنی هوش مصنوعی مسلط به انگلیسی و مراتی است تا سامانه‌های هوش مصنوعی مکالمه‌ای را به‌صورت ردتیم آزمایش کند. این نقش قراردادی بر آزمون خصمانه، تحلیل آسیب‌پذیری و گزارش‌دهی شفاف برای پروژه‌های داده انسانی و هوش مصنوعی پیشرو تمرکز دارد.
توضیحات
- مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را در برابر جیل‌بریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای آزمایش کنید
- با حاشیه‌نویسی شکست‌ها، دسته‌بندی آسیب‌پذیری‌ها و شناسایی ریسک‌های نظام‌مند، دارایی‌های داده انسانی ایجاد کنید
- برای اطمینان از ارزیابی‌های یکسان، از رده‌بندی‌ها، معیارهای سنجش و راهنماهای عملیاتی موجود استفاده کنید
- موارد حمله بازتولیدپذیر، مجموعه‌داده‌ها و گزارش‌های قابل ارائه به مشتری تحویل دهید
- پاسخ‌های هوش مصنوعی را درباره موضوعات حساس، از جمله سوگیری، اطلاعات نادرست و رفتار زیان‌بار ارزیابی کنید
- ضعف‌هایی را پیدا کنید که روش‌های ارزیابی خودکار ممکن است نادیده بگیرند
- برای کمک به پیشگیری از مشکلات پیش‌بینی‌نشده در محیط تولید، پوشش آزمون را گسترش دهید
- به مشتریان در بهبود ایمنی، استحکام و قابلیت اطمینان سامانه‌های هوش مصنوعی‌شان کمک کنید
- با پژوهشگران برجسته در طرح‌هایی برای آموزش و پیشبرد مدل‌های هوش مصنوعی پیشرو همکاری کنید
شرایط لازم
- تسلط بومی یا روان به زبان‌های انگلیسی و مراتی
- قضاوت سنجیده هنگام ارزیابی زبان و محتوا
- توانایی تشخیص دقیق، کامل و مناسب بودن پاسخ‌های هوش مصنوعی، همراه با ارائه توضیحات روشن
- توجه دقیق به خطاهای ظریف، ناسازگاری‌ها و موارد حذف‌شده
- پایبندی قابل اعتماد به دستورالعمل‌های آزمون و الزامات کیفیت
- توانایی انتقال روشن استدلال به مخاطبان فنی و غیرفنی
- انعطاف‌پذیری برای کار روی پروژه‌ها، وظایف و مشتریان مختلف
- توانایی کار به‌عنوان پیمانکار مستقل
- نباید به حمایت مالی ویزای H-1B یا STEM OPT نیاز داشته باشید
- ترجیحاً: تجربه یادگیری ماشین خصمانه با مجموعه‌داده‌های جیل‌بریک، تزریق پرامپت، حملات RLHF/DPO یا استخراج مدل
- ترجیحاً: تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحاً: تجربه ریسک اجتماعی-فنی در بررسی آزار و اذیت یا اطلاعات نادرست، تحلیل سوءاستفاده یا آزمون هوش مصنوعی مکالمه‌ای
- ترجیحاً: تجربه روان‌شناسی، بازیگری یا نویسندگی که به تفکر خصمانه و نامتعارف کمک کند
مزایا
- کار قراردادی کاملاً دورکاری
- برنامه زمانی منعطف با امکان تعیین ساعات کاری توسط خودتان
- پرداخت هفتگی از طریق Stripe یا Wise
- مدت پروژه ممکن است بر اساس نیازهای کسب‌وکار و عملکرد تغییر کند یا زودتر پایان یابد
- مشارکت اختیاری در پروژه‌هایی که شامل محتوای حساس‌تر هستند
- راهنمایی مشخص و منابع سلامت و رفاه برای مأموریت‌های دارای محتوای حساس
- تسهیلات معقول بنا به درخواست در دسترس است
- پرداخت ارجاع تا سقف ۹۰ دلار برای هر ارجاع موفق