خبير في سلامة الذكاء الاصطناعي – الإنجليزية والبنغالية (عقد عن بُعد)
تبحث Mercor عن مختبر أمان للذكاء الاصطناعي يتحدث الإنجليزية والبنغالية لتحديد الثغرات في أنظمة الذكاء الاصطناعي الحوارية. يشمل الدور إنتاج حالات هجوم قابلة لإعادة الإنتاج وبيانات ينشئها البشر لمختبرات الذكاء الاصطناعي التي تدرب نماذج متقدمة.
الوصف
- اختبار نماذج ووكلاء الذكاء الاصطناعي الحواري باستخدام كسر قيود النماذج، وحقن التعليمات، وسيناريوهات إساءة الاستخدام، واستغلال التحيز، والتلاعب متعدد الأدوار
- إنشاء بيانات ينشئها البشر من خلال وسم حالات الفشل، وتصنيف الثغرات، وتحديد المخاطر النظامية
- استخدام التصنيفات المرجعية والمعايير وأدلة الإجراءات المعتمدة للحفاظ على اتساق التقييمات
- تقديم تقارير ومجموعات بيانات وحالات هجوم قابلة لإعادة الإنتاج للعملاء
- تقييم استجابات الذكاء الاصطناعي التي تتناول التحيز والمعلومات المضللة والسلوك الضار وغير ذلك من الموضوعات الحساسة
- توسيع نطاق التقييم والمساهمة في تعزيز أنظمة الذكاء الاصطناعي لدى العملاء
المتطلبات
- إتقان أصلي أو بطلاقة للغتين الإنجليزية والبنغالية
- حسن تقدير عند تقييم اللغة والمحتوى، بما في ذلك القدرة على تحديد ما إذا كانت استجابات الذكاء الاصطناعي دقيقة وكاملة وملائمة وشرح التقييم
- انتباه شديد للأخطاء الدقيقة والتناقضات وحالات الحذف
- الالتزام الموثوق بإرشادات الاختبار ومعايير الجودة
- التواصل الواضح للمنطق مع الجماهير التقنية وغير التقنية
- الاستعداد للتكيف عبر المشاريع وصيغ المهام والعملاء المختلفين
- القدرة على العمل كمقاول مستقل
- يجب ألا يحتاج إلى رعاية تأشيرة H-1B أو STEM OPT
- مفضل: خبرة في التعلم الآلي الهجومي مع مجموعات بيانات كسر القيود أو حقن التعليمات أو هجمات RLHF/DPO أو استخراج النماذج
- مفضل: خبرة في الأمن السيبراني في اختبار الاختراق أو تطوير الاستغلالات أو الهندسة العكسية
- مفضل: خبرة في المخاطر الاجتماعية التقنية في فحص التحرش أو التضليل أو تحليل إساءة الاستخدام أو اختبار الذكاء الاصطناعي الحواري
- مفضل: خبرة في علم النفس أو التمثيل أو الكتابة تدعم التفكير الهجومي غير التقليدي
المزايا
- العمل عن بُعد بالكامل
- تحديد جدول مرن والعمل وفقًا لتوافرك الخاص
- تلقي دفعات أسبوعية عبر Stripe أو Wise
- اختيار المشاركة في المشاريع الأعلى حساسية
- الوصول إلى إرشادات واضحة وموارد للعافية للمهام التي تتضمن محتوى حساسًا
- الحصول على تعويض تنافسي
- اكتساب خبرة في اختبار أمان الذكاء الاصطناعي الهجومي القائم على البيانات البشرية
- التعاون مع باحثين بارزين في مجال الذكاء الاصطناعي
- كسب دفعات إحالة تصل إلى 90 دولارًا لكل إحالة ناجحة