متخصص ایمنی هوش مصنوعی (انگلیسی و تامیل) – قرارداد دورکاری
Mercor به دنبال متخصص ایمنی هوش مصنوعی مسلط به انگلیسی و تامیل است تا مدل‌ها و عامل‌های مکالمه‌ای را به‌صورت ردتیم آزمایش کند. این نقش قراردادی بر شناسایی آسیب‌پذیری‌ها، تولید داده‌های ارزیابی و تهیه گزارش‌های ایمنی بازتولیدپذیر تمرکز دارد.
توضیحات
- با استفاده از جیلبریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای، مدل‌ها و عامل‌های مکالمه‌ای هوش مصنوعی را به‌صورت خصمانه آزمایش کنید.
- با حاشیه‌نویسی شکست‌ها، دسته‌بندی آسیب‌پذیری‌ها و شناسایی خطرهای نظام‌مند، داده‌های تولیدشده توسط انسان ایجاد کنید.
- برای حفظ ارزیابی‌های یکدست، از رده‌بندی‌ها، معیارهای سنجش و پلی‌بوک‌های موجود استفاده کنید.
- گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله بازتولیدپذیر را برای مشتریان ارائه دهید.
- خروجی‌های هوش مصنوعی مرتبط با موضوعات حساس، از جمله سوگیری، اطلاعات نادرست و رفتار زیان‌بار، را ارزیابی کنید.
- ضعف‌هایی را شناسایی کنید که روش‌های ارزیابی خودکار ممکن است نادیده بگیرند.
- برای کمک به کاهش مشکلات پیش‌بینی‌نشده در محیط تولید، پوشش ارزیابی را گسترش دهید.
- با آزمایش خصمانه ساختاریافته، سامانه‌های هوش مصنوعی مشتریان را بهبود دهید.
شرایط لازم
- تسلط بومی یا روان به زبان‌های انگلیسی و تامیل.
- قضاوت سنجیده هنگام ارزیابی زبان و محتوا.
- توانایی تعیین دقیق، کامل و مناسب بودن پاسخ‌های هوش مصنوعی و توضیح استدلال مربوط به آن.
- توجه زیاد به خطاهای ظریف، ناهماهنگی‌ها و موارد حذف‌شده.
- پایبندی مستمر به دستورالعمل‌ها و استانداردهای کیفیت.
- توانایی توضیح روشن استدلال برای مخاطبان فنی و غیرفنی.
- توانایی سازگاری با پروژه‌ها، قالب‌های وظایف و مشتریان مختلف.
- توانایی کار به‌عنوان پیمانکار مستقل.
- برای نامزدهای H1-B و STEM OPT پشتیبانی ارائه نمی‌شود.
- ترجیحاً: تجربه یادگیری ماشین خصمانه با مجموعه‌داده‌های جیلبریک، تزریق پرامپت، حملات RLHF یا DPO، یا استخراج مدل.
- ترجیحاً: تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس.
- ترجیحاً: تجربه خطرهای اجتماعی-فنی شامل بررسی آزار و اذیت یا اطلاعات گمراه‌کننده، تحلیل سوءاستفاده یا آزمایش هوش مصنوعی مکالمه‌ای.
- ترجیحاً: تجربه بررسی خلاقانه در روان‌شناسی، بازیگری یا نویسندگی.
مزایا
- کار کاملاً دورکاری.
- برنامه‌ریزی انعطاف‌پذیر با امکان تعیین ساعات کاری توسط خودتان.
- پرداخت هفتگی از طریق Stripe یا Wise.
- امکان مشارکت اختیاری در پروژه‌های با حساسیت بیشتر.
- راهنمایی روشن و منابع رفاهی برای کار با محتوای حساس.
- دستمزد ساعتی رقابتی.
- فرصت همکاری با پژوهشگران برجسته.
- پرداخت ارجاعی تا سقف ۹۰ دلار برای هر ارجاع موفق، مشروط به محدودیت‌های قابل‌اعمال.
- امکانات معقول بنا به درخواست در دسترس است.