خبير الاختبار الأحمر لسلامة الذكاء الاصطناعي – الإنجليزية والتاميلية، عقد عن بُعد
اختبر نماذج الذكاء الاصطناعي للمحادثة ووكلاءها بحثًا عن الثغرات من خلال الاستقصاء الخصومي وتحليل الاختبار الأحمر المنهجي. أنشئ حالات هجوم وبيانات عن الثغرات وتقارير قابلة لإعادة الإنتاج لعملاء مختبر الذكاء الاصطناعي لدى ميركور.
الوصف
- اختبر نماذج الذكاء الاصطناعي للمحادثة ووكلاءها باستخدام كسر الحواجز وحقن التعليمات وسيناريوهات إساءة الاستخدام واستغلال التحيز والتلاعب متعدد الجولات
- أنشئ بيانات موسومة بشريًا من خلال توثيق حالات الفشل وتصنيف الثغرات وتحديد المخاطر النظامية
- استخدم التصنيفات المعيارية والمقاييس المرجعية وأدلة الإجراءات للحفاظ على اتساق التقييمات
- طوّر تقارير ومجموعات بيانات وحالات هجوم قابلة لإعادة الإنتاج للعملاء
- قيّم مخرجات الذكاء الاصطناعي التي تتضمن التحيز والمعلومات المضللة والسلوك الضار وموضوعات حساسة أخرى
- حدّد نقاط الضعف التي قد تفوتها الاختبارات الآلية
- وسّع نطاق التقييم وساعد في منع مشكلات الإنتاج غير المتوقعة
- حسّن أنظمة الذكاء الاصطناعي لدى العملاء وساهم في نماذج أكثر أمانًا وموثوقية
المتطلبات
- إجادة بمستوى اللغة الأم لكل من الإنجليزية والتاميلية
- حسن التقدير عند تقييم اللغة والمحتوى
- القدرة على تحديد ما إذا كانت استجابات الذكاء الاصطناعي دقيقة وكاملة وملائمة، وشرح هذا التقييم
- اهتمام دقيق بالأخطاء الدقيقة والتناقضات وأوجه النقص
- القدرة على تطبيق الإرشادات ومعايير الجودة باستمرار
- التواصل الواضح للمنطق أمام الجماهير التقنية وغير التقنية
- المرونة في العمل عبر المشاريع وصيغ المهام والعملاء المختلفين
- مفضّل: خبرة في تعلم الآلة الخصومي، بما في ذلك مجموعات بيانات كسر الحواجز أو حقن التعليمات أو هجمات RLHF أو DPO أو استخراج النماذج
- مفضّل: خلفية في الأمن السيبراني تشمل اختبار الاختراق أو تطوير الاستغلالات أو الهندسة العكسية
- مفضّل: خبرة في المخاطر الاجتماعية التقنية مثل اختبار التحرش والمعلومات المضللة أو تحليل إساءة الاستخدام أو اختبار الذكاء الاصطناعي للمحادثة
- مفضّل: خبرة في الاستقصاء الإبداعي في علم النفس أو التمثيل أو الكتابة
- يجب العمل بصفة متعاقد مستقل
- لا يتوفر دعم لمرشحي H-1B وSTEM OPT
المزايا
- عمل عن بُعد بالكامل
- جدولة مرنة مع إمكانية تحديد ساعات العمل الخاصة بك
- دفعات أسبوعية عبر Stripe أو Wise
- أجر ساعي تنافسي
- فرصة لاكتساب خبرة في الاختبار الأحمر للذكاء الاصطناعي المعتمد على البيانات البشرية والمركّز على السلامة المتقدمة
- مساهمة مباشرة في أنظمة ذكاء اصطناعي أكثر متانة وأمانًا وجديرة بالثقة
- إمكانية المشاركة اختياريًا في مشاريع ذات حساسية أعلى
- إرشادات وموارد للعافية للمشاريع التي تتضمن محتوى حساسًا
- تتوفر الترتيبات التيسيرية المعقولة عند الطلب
- برنامج إحالة يقدّم ما يصل إلى 90 دولارًا لكل إحالة ناجحة، مع مراعاة حدود الإحالات