متخصص تیم قرمز ایمنی هوش مصنوعی – انگلیسی و فنلاندی، کار از راه دور در ایالات متحده
برای پروژه‌های هوش مصنوعیِ داده‌های انسانی Mercor، مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را به‌صورت خصمانه آزمایش کنید. برای کمک به تقویت سامانه‌های پیشرفته هوش مصنوعی، داده‌های آسیب‌پذیری قابل‌بازتولید ایجاد کنید.
توضیحات
- مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را با استفاده از جیل‌بریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای آزمایش کنید
- شکست‌ها را حاشیه‌نویسی کنید، آسیب‌پذیری‌ها را دسته‌بندی کنید و خطرهای نظام‌مند را شناسایی کنید
- برای ارزیابی‌های یکپارچه، رده‌بندی‌ها، معیارهای سنجش و راهنماهای عملیاتی تثبیت‌شده را به کار ببرید
- برای مشتریان، گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله قابل‌بازتولید ایجاد کنید
- آسیب‌پذیری‌هایی را شناسایی کنید که ممکن است آزمایش خودکار نادیده بگیرد
- پوشش ارزیابی را گسترش دهید و به کاهش مشکلات پیش‌بینی‌نشده در محیط تولید کمک کنید
- با پژوهشگران برجسته در پروژه‌هایی که سامانه‌های هوش مصنوعی را آموزش داده و بهبود می‌دهند همکاری کنید
شرایط لازم
- تسلط روان یا مهارت در حد زبان مادری در انگلیسی و فنلاندی
- سابقه کار تیم قرمز در فعالیت‌های خصمانه هوش مصنوعی، امنیت سایبری یا کاوش اجتماعی-فنی
- توانایی آزمایش خصمانه سامانه‌های هوش مصنوعی و سوق دادن آن‌ها به نقاط شکست
- تجربه در به‌کارگیری چارچوب‌ها یا معیارهای سنجش برای آزمایش ساختاریافته
- توانایی انتقال روشن خطرها به مخاطبان فنی و غیرفنی
- سازگاری با پروژه‌ها و نیازمندی‌های مشتریان
- در دسترس بودن برای همکاری به‌عنوان پیمانکار مستقل
- نباید نامزد H-1B یا STEM OPT باشید
- ترجیحی: تجربه یادگیری ماشین خصمانه، از جمله مجموعه‌داده‌های جیل‌بریک، تزریق پرامپت، حمله‌های RLHF/DPO یا استخراج مدل
- ترجیحی: تجربه امنیت سایبری در آزمون نفوذ، توسعه اکسپلویت یا مهندسی معکوس
- ترجیحی: تجربه خطر اجتماعی-فنی در کاوش آزار و اذیت یا اطلاعات نادرست، تحلیل سوءاستفاده یا آزمایش هوش مصنوعی مکالمه‌ای
- ترجیحی: تجربه روان‌شناسی، بازیگری یا نویسندگی که از تفکر خصمانه غیرمتعارف پشتیبانی کند
مزایا
- کار کاملاً از راه دور
- برنامه‌ریزی زمانی انعطاف‌پذیر
- پرداخت هفتگی از طریق Stripe یا Wise
- منابع سلامت و دستورالعمل‌های روشن برای پروژه‌های با حساسیت بالاتر
- فرصت کسب تجربه در تیم قرمز هوش مصنوعی با داده‌های انسانی
- فرصت مستقیم برای کمک به مقاوم‌تر، ایمن‌تر و قابل‌اعتمادتر شدن سامانه‌های هوش مصنوعی
- پرداخت رقابتی
- پاداش معرفی تا سقف ۲۵۰ دلار برای هر معرفی موفق