خبير سلامة الذكاء الاصطناعي – الإنجليزية والماراثية (عن بُعد)
تبحث Mercor عن خبراء في سلامة الذكاء الاصطناعي يتحدثون الإنجليزية والماراثية لاختبار نماذج ووكلاء المحادثة أمنيًا. يشمل العمل اكتشاف الثغرات، وتقييم المخرجات الحساسة، وإنشاء بيانات سلامة قابلة لإعادة الإنتاج لمختبرات الذكاء الاصطناعي وعملائها.
الوصف
- إجراء اختبارات أمنية هجومية لنماذج ووكلاء الذكاء الاصطناعي الحواري باستخدام تجاوزات الحماية، وحقن التعليمات، وسيناريوهات إساءة الاستخدام، واستغلال التحيز، والتلاعب متعدد الأدوار
- إنشاء بيانات للتقييم البشري عبر وسم حالات الفشل، وتصنيف الثغرات، وتحديد المخاطر النظامية
- استخدام التصنيفات المرجعية والمعايير وخطط العمل المعتمدة لدعم تقييمات متسقة
- إعداد تقارير ومجموعات بيانات وحالات هجوم قابلة لإعادة الإنتاج للعملاء
- تقييم مخرجات الذكاء الاصطناعي المتعلقة بالتحيز والمعلومات المضللة والسلوك الضار وغير ذلك من الموضوعات الحساسة
- تحديد الثغرات التي قد لا تكشفها الاختبارات الآلية
- توسيع نطاق التقييم للمساعدة في تقليل مشكلات الإنتاج غير المتوقعة
- دعم العملاء في تحسين سلامة أنظمة الذكاء الاصطناعي لديهم ومتانتها وموثوقيتها
المتطلبات
- إتقان اللغة الإنجليزية واللغة الماراثية إتقانًا أصليًا
- حسّ قوي في تقييم اللغة والمحتوى، بما في ذلك تحديد دقة استجابات الذكاء الاصطناعي واكتمالها وملاءمتها
- القدرة على اكتشاف الأخطاء الدقيقة والتناقضات وحالات الإغفال
- القدرة على اتباع الإرشادات ومعايير الجودة باستمرار
- القدرة على شرح أسباب الاستنتاج بوضوح للجمهورين التقني وغير التقني
- القدرة على التكيف مع المشاريع وأنواع المهام والعملاء المختلفين
- القدرة على العمل بصفة متعاقد مستقل
- يجب ألا يتطلب دعم تأشيرة H-1B أو STEM OPT
- يفضل: خبرة في التعلم الآلي الخصومي تشمل مجموعات بيانات تجاوزات الحماية، أو حقن التعليمات، أو هجمات RLHF أو DPO، أو استخراج النماذج
- يفضل: خبرة في الأمن السيبراني تشمل اختبار الاختراق أو تطوير الاستغلالات أو الهندسة العكسية
- يفضل: خبرة في المخاطر الاجتماعية التقنية تشمل اختبار التحرش أو التضليل، أو تحليل إساءة الاستخدام، أو اختبار الذكاء الاصطناعي الحواري
- يفضل: خبرة في علم النفس أو التمثيل أو الكتابة تدعم التفكير الخصومي غير التقليدي
المزايا
- عمل عن بُعد بالكامل يمكن إنجازه وفق جدولك الخاص
- مدفوعات أسبوعية عبر Stripe أو Wise
- إمكانية اختيارية للمشاركة في مشاريع ذات حساسية أعلى
- إرشادات واضحة وموارد للعافية للعمل الذي يتضمن محتوى حساسًا
- أجر تنافسي
- فرصة للتعاون مع باحثين بارزين
- مدفوعات إحالة تصل إلى 90 دولارًا لكل إحالة ناجحة، مع مراعاة الحدود