متخصص ایمنی هوش مصنوعی – انگلیسی و فنلاندی (دورکاری)
Mercor به دنبال متخصصان ایمنی هوش مصنوعی مسلط به انگلیسی و فنلاندی است تا مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را به‌صورت ردتیم آزمایش کنند. این کار شامل تولید داده‌های آسیب‌پذیری قابل بازتولید و نمونه‌های حمله برای پروژه‌های آموزش هوش مصنوعی پیشرفته است.
توضیحات
- آزمایش خصمانه مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را با استفاده از جیلبریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای انجام دهید
- شکست‌ها را مستندسازی کنید، آسیب‌پذیری‌ها را دسته‌بندی کنید و خطرهای سیستمی را شناسایی کنید
- برای حفظ ارزیابی‌های منسجم، طبقه‌بندی‌ها، بنچمارک‌ها و پلی‌بوک‌های موجود را به کار ببرید
- گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله قابل بازتولید ایجاد کنید
- خروجی‌های مدل مرتبط با سوگیری، اطلاعات نادرست و رفتار زیان‌بار را بررسی کنید
- دامنه ارزیابی را گسترش دهید تا آسیب‌پذیری‌هایی را شناسایی کنید که ممکن است آزمایش خودکار از آن‌ها چشم‌پوشی کند
- با تیم‌های پروژه‌ای که از آموزش و بهبود سامانه‌های هوش مصنوعی پیشرفته پشتیبانی می‌کنند همکاری کنید
شرایط لازم
- تسلط روان یا در حد زبان مادری به انگلیسی و فنلاندی
- تجربه قبلی ردتیم در آزمایش خصمانه هوش مصنوعی، امنیت سایبری یا کاوش اجتماعی‌فنی
- توانایی اثبات‌شده در آزمایش خصمانه سامانه‌های هوش مصنوعی
- توانایی کار با چارچوب‌ها، طبقه‌بندی‌ها، بنچمارک‌ها و پلی‌بوک‌ها
- توانایی انتقال روشن خطرها به مخاطبان فنی و غیرفنی
- سازگاری با پروژه‌ها و مشتریان مختلف
- باید به‌عنوان پیمانکار مستقل کار کنید
- باید بتوانید بدون استفاده از اطلاعات محرمانه یا اختصاصی متعلق به کارفرما، مشتری یا مؤسسه‌ای دیگر کار کنید
- از نامزدهای H-1B و STEM OPT پشتیبانی نمی‌شود
مزایا
- نقش قراردادی کاملاً دورکار
- برنامه زمانی منعطف با اختیار کنترل ساعات کاری
- امکان مشارکت در پروژه‌های با حساسیت بالاتر
- راهنمایی روشن و منابع سلامت و رفاه
- پرداخت هفتگی از طریق Stripe یا Wise
- دستمزد رقابتی
- فرصت معرفی با پرداخت حداکثر ۲۵۰ دلار برای هر معرفی موفق
- امکانات مناسب بنا به درخواست در دسترس است