کارشناس ایمنی هوش مصنوعی (انگلیسی و تلوگو) – قرارداد دورکاری
برای Mercor ارزیابی‌های ردتیمینگ مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را انجام دهید و بر ایمنی زبانی انگلیسی و تلوگو تمرکز کنید. برای کمک به توسعه هوش مصنوعی ایمن‌تر، داده‌های آسیب‌پذیری، نمونه‌های حمله و گزارش‌های بازتولیدپذیر ایجاد کنید.
توضیحات
- مدل‌ها و عامل‌های هوش مصنوعی مکالمه‌ای را با جیل‌بریک، تزریق پرامپت، سناریوهای سوءاستفاده، بهره‌برداری از سوگیری و دست‌کاری چندمرحله‌ای آزمایش کنید
- شکست‌ها را حاشیه‌نویسی کنید، آسیب‌پذیری‌ها را دسته‌بندی کنید و خطرهای سیستمی را شناسایی کنید
- برای حفظ ارزیابی‌های یکدست از طبقه‌بندی‌ها، معیارها و راهنماهای عملیاتی استفاده کنید
- برای مشتریان گزارش‌ها، مجموعه‌داده‌ها و نمونه‌های حمله بازتولیدپذیر ایجاد کنید
- خروجی‌های هوش مصنوعی درباره سوگیری، اطلاعات نادرست، رفتار زیان‌بار و دیگر موضوعات حساس را ارزیابی کنید
- در پروژه‌هایی که سامانه‌های هوش مصنوعی را آموزش می‌دهند و بهبود می‌بخشند مشارکت کنید
- آسیب‌پذیری‌هایی را شناسایی کنید که آزمون خودکار آن‌ها را تشخیص نمی‌دهد
- برای کمک به کاهش مشکلات پیش‌بینی‌نشده در محیط تولید، پوشش ارزیابی را گسترده‌تر کنید
شرایط لازم
- تسلط بومی یا روان به زبان‌های انگلیسی و تلوگو
- قضاوت سنجیده هنگام ارزیابی دقیق، کامل و مناسب بودن پاسخ‌های هوش مصنوعی
- توانایی انتقال روشن استدلال به مخاطبان فنی و غیرفنی
- توجه دقیق به خطاهای ظریف، ناسازگاری‌ها و موارد حذف‌شده
- پایبندی مداوم به دستورالعمل‌ها و استانداردهای کیفیت
- انعطاف‌پذیری در پروژه‌ها، قالب‌های کاری و مشتریان مختلف
- تمایل به کار به‌عنوان پیمانکار مستقل
- نباید نامزد H-1B یا STEM OPT باشید؛ تخصص‌های مرتبط ممکن است شامل یادگیری ماشین خصمانه، مجموعه‌داده‌های جیل‌بریک، تزریق پرامپت، حملات RLHF/DPO، استخراج مدل، آزمون نفوذ، توسعه اکسپلویت، مهندسی معکوس، بررسی آزار و اذیت یا اطلاعات گمراه‌کننده، تحلیل سوءاستفاده، آزمون هوش مصنوعی مکالمه‌ای، روان‌شناسی، بازیگری یا نویسندگی باشد.
- مزایا
مزایا
- کاملاً دورکاری و طبق برنامه‌ای که خودتان تعیین می‌کنید کار کنید
- برای خدمات ارائه‌شده، پرداخت هفتگی از طریق Stripe یا Wise دریافت کنید
- در ردتیمینگ هوش مصنوعی مبتنی بر داده‌های انسانی و متمرکز بر ایمنی پیشرفته تجربه کسب کنید
- به مقاوم‌تر، ایمن‌تر و قابل‌اعتمادتر شدن سامانه‌های هوش مصنوعی کمک کنید
- انتخاب کنید که در پروژه‌های حساس‌تر مشارکت داشته باشید یا نه
- برای پروژه‌های حساس‌تر به راهنمایی روشن و منابع سلامت و رفاه دسترسی داشته باشید
- درخواست تسهیلات معقول کنید
- برای هر معرفی موفق تا سقف ۹۰ دلار درآمد کسب کنید؛ محدودیت مشخصی برای تعداد معرفی‌ها اعلام نشده است