کارشناس ایمنی هوش مصنوعی، انگلیسی و هلندی (قرارداد دورکاری)
Mercor به دنبال کارشناسان ایمنی هوش مصنوعی مسلط به انگلیسی و هلندی است تا مدل‌ها و عامل‌های مکالمه‌ای را به‌صورت ردتیم آزمایش کنند. این کار شامل ایجاد داده‌های آسیب‌پذیری، سناریوهای حمله و گزارش‌های ایمنی بازتولیدپذیر برای توسعه هوش مصنوعی پیشرو است.
توضیحات
- مدل‌ها و عامل‌های مکالمه‌ای هوش مصنوعی را با استفاده از جیل‌بریک، تزریق فرمان، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای آزمایش کنید
- با حاشیه‌نویسی شکست‌ها، طبقه‌بندی آسیب‌پذیری‌ها و شناسایی ریسک‌های سیستمی، داده‌های تولیدشده توسط انسان ایجاد کنید
- برای پشتیبانی از آزمون ایمنی سازگار، از رده‌بندی‌ها، محک‌ها و راهنماهای عملیاتی استفاده کنید
- گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله بازتولیدپذیر برای مشتریان تهیه کنید
- آسیب‌پذیری‌هایی را بیابید که ممکن است آزمون خودکار از آن‌ها چشم‌پوشی کند
- برای کمک به کاهش ریسک‌های پیش‌بینی‌نشده در محیط تولید، پوشش ارزیابی را گسترش دهید
- برای آموزش و بهبود سامانه‌های هوش مصنوعی پیشرو با پژوهشگران برجسته همکاری کنید
شرایط لازم
- تسلط در حد زبان مادری به انگلیسی و هلندی
- سابقه در ردتیم هوش مصنوعی، کار تهاجمی امنیت سایبری یا بررسی اجتماعی-فنی
- توانایی آزمودن تهاجمی سامانه‌های هوش مصنوعی و سوق دادن آن‌ها به شرایط شکست
- تجربه در به‌کارگیری چارچوب‌ها یا محک‌ها برای آزمون ساختاریافته
- توانایی توضیح روشن ریسک‌ها برای مخاطبان فنی و غیرفنی
- توانایی سازگاری با پروژه‌ها و مشتریان مختلف
- تجربه یادگیری ماشین تهاجمی با مجموعه‌داده‌های جیل‌بریک، تزریق فرمان، حملات RLHF/DPO یا استخراج مدل مزیت محسوب می‌شود
- تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس مزیت محسوب می‌شود
- تجربه ریسک اجتماعی-فنی شامل بررسی آزار و اذیت یا اطلاعات نادرست، تحلیل سوءاستفاده یا آزمون هوش مصنوعی مکالمه‌ای مزیت محسوب می‌شود
- تجربه بررسی خلاقانه در روان‌شناسی، بازیگری یا نویسندگی مزیت محسوب می‌شود
- باید بتوانید به‌عنوان پیمانکار مستقل کار کنید
- از نامزدهای H-1B و STEM OPT پشتیبانی نمی‌شود
مزایا
- کار کاملاً دورکار
- برنامه زمانی انعطاف‌پذیر با امکان تعیین ساعات کاری توسط خودتان
- پرداخت هفتگی از طریق Stripe یا Wise بر اساس خدمات ارائه‌شده
- پروژه‌ها ممکن است بر اساس نیازهای کسب‌وکار و عملکرد تمدید، کوتاه یا زودتر خاتمه داده شوند
- مشارکت در پروژه‌های با حساسیت بالاتر اختیاری است
- راهنماهای محتوا و منابع سلامت و بهزیستی ارائه می‌شود
- امکانات合理 و متناسب بنا به درخواست در دسترس است
- پرداخت ساعتی رقابتی
- فرصت دریافت پاداش معرفی تا سقف ۲۵۰ دلار آمریکا برای هر معرفی موفق، مشروط به محدودیت‌ها