خبير سلامة الذكاء الاصطناعي - الإنجليزية والبنجابية
دور تعاقدي عن بُعد لخبراء سلامة الذكاء الاصطناعي المتقنين للإنجليزية والبنجابية، لدعم مشاريع Mercor لاختبار النماذج الحوارية ضد الهجمات. اختبروا محاولات كسر القيود وحقن التعليمات ومخاطر المحتوى الضار ونقاط ضعف النماذج، مع توثيق النتائج القابلة لإعادة الإنتاج.
الوصف
- إجراء اختبارات عدائية لنماذج ووكلاء الذكاء الاصطناعي الحواري باستخدام محاولات كسر القيود وحقن التعليمات وسيناريوهات إساءة الاستخدام واستغلال التحيز والتلاعب متعدد الجولات
- إنشاء بيانات مولدة بشريًا من خلال ترميز حالات الفشل وتصنيف نقاط الضعف وتحديد المخاطر النظامية
- تطبيق التصنيفات المرجعية والمعايير وخطط العمل المعتمدة للحفاظ على اتساق التقييمات
- إعداد تقارير ومجموعات بيانات وحالات هجوم قابلة لإعادة الإنتاج للعملاء
- تقييم مخرجات الذكاء الاصطناعي بحثًا عن التحيز والمعلومات المضللة والسلوك الضار ومخاطر المحتوى الحساس الأخرى
- تحديد نقاط الضعف التي قد لا تكتشفها التقييمات الآلية
- توسيع نطاق التقييم للمساعدة في الحد من المشكلات غير المتوقعة في بيئة الإنتاج
- تحسين أنظمة الذكاء الاصطناعي لدى العملاء من خلال الاختبارات العدائية المنظمة
المتطلبات
- إتقان أصلي للغتين الإنجليزية والبنجابية
- حسن تقدير عند تقييم اللغة والمحتوى
- القدرة على تحديد ما إذا كانت استجابات الذكاء الاصطناعي دقيقة وكاملة وملائمة، وشرح التقييم
- اهتمام كبير بالأخطاء الدقيقة وحالات عدم الاتساق والإغفالات
- الالتزام المستمر بالإرشادات ومعايير الجودة
- التواصل الواضح للمنطق مع الجماهير التقنية وغير التقنية
- القدرة على التكيف مع المشاريع وتنسيقات المهام والعملاء المختلفين
- صفة متعاقد مستقل
- يجب ألا يكون المتقدم مرشحًا لتأشيرة H1-B أو لبرنامج STEM OPT
- يفضل امتلاك خبرة في التعلم الآلي العدائي، بما في ذلك مجموعات بيانات كسر القيود أو حقن التعليمات أو هجمات RLHF/DPO أو استخراج النماذج
- يفضل امتلاك خبرة في الأمن السيبراني في اختبار الاختراق أو تطوير الاستغلالات أو الهندسة العكسية
- يفضل امتلاك خبرة في المخاطر الاجتماعية التقنية، بما في ذلك اختبار التحرش أو التضليل أو تحليل إساءة الاستخدام أو اختبار الذكاء الاصطناعي الحواري
- يفضل امتلاك خبرة في علم النفس أو التمثيل أو الكتابة بما يدعم التفكير العدائي غير التقليدي
المزايا
- العمل عن بُعد بالكامل
- جدولة مرنة مع إمكانية العمل وفق جدولك الخاص
- دفعات أسبوعية عبر Stripe أو Wise
- قد تُمدد المشاريع أو تُختصر أو تُنهى مبكرًا بناءً على احتياجات العمل والأداء
- إمكانية المشاركة الاختيارية في المشاريع ذات الحساسية الأعلى
- توفير إرشادات للمحتوى وموارد للرفاهية
- أجر تنافسي
- تتوفر الترتيبات التيسيرية المعقولة عند الطلب
- دفعات إحالة تصل إلى 90 دولارًا لكل إحالة ناجحة، مع مراعاة حدود الإحالات