خبير سلامة الذكاء الاصطناعي عن بُعد (الإنجليزية والكانادا)
إجراء اختبارات عدائية على نماذج الذكاء الاصطناعي المتقدمة لدى Mercor باستخدام مدخلات بالإنجليزية والكانادا لتحديد الثغرات. إنشاء بيانات سلامة وحالات هجوم وتقارير قابلة لإعادة الإنتاج لعملاء الذكاء الاصطناعي.
الوصف
- اختبار نماذج الذكاء الاصطناعي الحوارية والوكلاء باستخدام كسر قيود النماذج، وحقن التعليمات، وسيناريوهات إساءة الاستخدام، واستغلال التحيز، والتلاعب متعدد الجولات
- إنشاء بيانات من إنتاج البشر من خلال توثيق الإخفاقات، وتصنيف الثغرات، وتحديد المخاطر المنهجية
- استخدام التصنيفات المرجعية والمعايير وخطط العمل المعتمدة للحفاظ على اتساق التقييمات
- إعداد تقارير ومجموعات بيانات وحالات هجوم قابلة لإعادة الإنتاج ويمكن للعملاء استخدامها
- تقييم مخرجات الذكاء الاصطناعي في الموضوعات الحساسة، بما في ذلك التحيز والمعلومات المضللة والسلوك الضار
- العثور على نقاط ضعف قد تغفل عنها التقييمات الآلية
- توسيع نطاق التقييم للمساعدة في منع مشكلات الإنتاج غير المتوقعة
- المساهمة في مشاريع تدرب أنظمة الذكاء الاصطناعي وتحسنها لصالح مختبر Mercor للذكاء الاصطناعي وعملائه من المؤسسات
المتطلبات
- إتقان أصلي أو بطلاقة للغتين الإنجليزية والكانادا
- حسن التقدير عند تقييم اللغة والمحتوى، بما في ذلك دقة استجابات الذكاء الاصطناعي واكتمالها وملاءمتها
- القدرة على توضيح أسباب القرارات بوضوح للجمهورين التقني وغير التقني
- اهتمام دقيق بالأخطاء والتناقضات والحالات المحذوفة الطفيفة
- القدرة على تطبيق التصنيفات المرجعية والمعايير وخطط العمل والإرشادات ومعايير الجودة باستمرار
- المرونة للعمل على مشاريع مختلفة وتنسيقات مهام وعملاء متنوعين
- يشترط العمل كمتعاقد مستقل
- يجب ألا يكون المتقدمون بصدد السعي للحصول على وضع H-1B أو STEM OPT
- يفضل امتلاك خبرة في التعلم الآلي العدائي، بما في ذلك مجموعات بيانات كسر قيود النماذج، أو حقن التعليمات، أو هجمات RLHF أو DPO، أو استخراج النماذج
- يفضل وجود خلفية في الأمن السيبراني تشمل اختبار الاختراق أو تطوير الاستغلالات أو الهندسة العكسية
- يفضل امتلاك خبرة في المخاطر الاجتماعية التقنية، مثل اختبار التحرش أو التضليل، أو تحليل إساءة الاستخدام، أو اختبار الذكاء الاصطناعي الحواري
- يفضل امتلاك خبرة في علم النفس أو التمثيل أو الكتابة تدعم التفكير العدائي غير التقليدي
المزايا
- عمل تعاقدي عن بُعد بالكامل مع مرونة في جدولة العمل
- دفع أسبوعي عبر Stripe أو Wise بناءً على الخدمات المقدمة
- فرصة لاكتساب خبرة في اختبار أمان الذكاء الاصطناعي القائم على البيانات البشرية والمركز على السلامة المتقدمة
- مساهمة مؤثرة في جعل أنظمة الذكاء الاصطناعي أكثر متانة وأمانًا وموثوقية
- موارد للعافية وإرشادات محددة للمشاريع التي تتضمن محتوى أعلى حساسية
- تتوفر ترتيبات تيسيرية معقولة عند الطلب
- مدفوعات إحالة تصل إلى 90 دولارًا لكل إحالة ناجحة، مع مراعاة القيود المعمول بها