خبير سلامة الذكاء الاصطناعي (الإنجليزية والتيلوغوية) – عقد عن بُعد
إجراء تقييمات هجومية لنماذج ووكلاء الذكاء الاصطناعي الحواري لصالح Mercor، مع التركيز على سلامة اللغتين الإنجليزية والتيلوغوية. إنشاء بيانات الثغرات وحالات الهجوم وتقارير قابلة لإعادة الإنتاج لدعم تطوير ذكاء اصطناعي أكثر أمانًا.
الوصف
- اختبار نماذج ووكلاء الذكاء الاصطناعي الحواري باستخدام كسر قيود النماذج، وحقن التعليمات، وسيناريوهات إساءة الاستخدام، واستغلال التحيز، والتلاعب متعدد الجولات
- توثيق حالات الفشل، وتصنيف الثغرات، وتحديد المخاطر المنهجية
- استخدام التصنيفات المعيارية، والمعايير المرجعية، وأدلة الإجراءات للحفاظ على اتساق التقييمات
- إنشاء تقارير ومجموعات بيانات وحالات هجوم قابلة لإعادة الإنتاج للعملاء
- تقييم مخرجات الذكاء الاصطناعي التي تتضمن التحيز، والمعلومات المضللة، والسلوك الضار، وغيرها من الموضوعات الحساسة
- المساهمة في مشاريع تدرب أنظمة الذكاء الاصطناعي وتحسنها
- تحديد الثغرات التي لا تكشفها الاختبارات الآلية
- توسيع نطاق التقييم للمساعدة في تقليل المشكلات غير المتوقعة في بيئة الإنتاج
المتطلبات
- إتقان اللغة الإنجليزية والتيلوغوية إتقانًا أصليًا أو بطلاقة
- التحلي بحسن التقدير عند تقييم مدى دقة استجابات الذكاء الاصطناعي واكتمالها وملاءمتها
- القدرة على توضيح الاستدلال بوضوح للجمهورين التقني وغير التقني
- الانتباه الدقيق إلى الأخطاء والتناقضات وحالات الإغفال الدقيقة
- الالتزام المستمر بالإرشادات ومعايير الجودة
- المرونة في العمل عبر المشاريع وتنسيقات المهام والعملاء المختلفين
- الاستعداد للعمل كمتعاقد مستقل
- يجب ألا تكون مرشحًا للحصول على تأشيرة H-1B أو لبرنامج STEM OPT؛ وقد تشمل التخصصات ذات الصلة التعلم الآلي الخصومي، ومجموعات بيانات كسر قيود النماذج، وحقن التعليمات، وهجمات RLHF/DPO، واستخراج النماذج، واختبار الاختراق، وتطوير الاستغلالات، والهندسة العكسية، واختبار التحرش أو التضليل، وتحليل إساءة الاستخدام، واختبار الذكاء الاصطناعي الحواري، وعلم النفس، والتمثيل، أو الكتابة.
- المزايا
المزايا
- العمل عن بُعد بالكامل وفق جدول تحدده بنفسك
- تلقي دفعات أسبوعية عبر Stripe أو Wise مقابل الخدمات المقدمة
- اكتساب خبرة في الاختبارات الهجومية للذكاء الاصطناعي المعتمدة على البيانات البشرية، مع التركيز على السلامة المتقدمة
- المساعدة في جعل أنظمة الذكاء الاصطناعي أكثر متانة وأمانًا وموثوقية
- اختيار المشاركة في المشاريع ذات الحساسية الأعلى من عدمها
- الوصول إلى إرشادات واضحة وموارد للرفاهية في المشاريع ذات الحساسية الأعلى
- طلب التسهيلات المعقولة
- كسب ما يصل إلى 90 دولارًا لكل إحالة ناجحة، من دون حد معلن لعدد الإحالات