خبير اختبار اختراق سلامة الذكاء الاصطناعي – الإنجليزية والفنلندية، العمل عن بُعد في الولايات المتحدة
إجراء اختبارات عدائية لنماذج ووكلاء الذكاء الاصطناعي الحواريين ضمن مشاريع بيانات بشرية للذكاء الاصطناعي لدى Mercor. إنشاء بيانات قابلة لإعادة الإنتاج حول الثغرات للمساعدة في تعزيز أنظمة الذكاء الاصطناعي المتقدمة.
الوصف
- اختبار نماذج ووكلاء الذكاء الاصطناعي الحواريين باستخدام كسر القيود وحقن التعليمات وسيناريوهات إساءة الاستخدام واستغلال التحيز والتلاعب متعدد الجولات
- توصيف حالات الفشل وتصنيف الثغرات وتحديد المخاطر النظامية
- تطبيق التصنيفات المرجعية والمعايير وأدلة العمل المعتمدة لإجراء تقييمات متسقة
- إنشاء تقارير ومجموعات بيانات وحالات هجوم قابلة لإعادة الإنتاج للعملاء
- تحديد الثغرات التي قد تفوتها الاختبارات الآلية
- توسيع نطاق التقييم والمساعدة في تقليل المشكلات غير المتوقعة في بيئة الإنتاج
- التعاون مع باحثين بارزين في مشاريع لتدريب أنظمة الذكاء الاصطناعي وتحسينها
المتطلبات
- إجادة اللغة الإنجليزية والفنلندية أو التحدث بهما كلغتين أصليتين
- خبرة سابقة في اختبار الاختراق العدائي ضمن مجالات الذكاء الاصطناعي أو الأمن السيبراني أو اختبار الأنظمة الاجتماعية التقنية
- القدرة على اختبار أنظمة الذكاء الاصطناعي بصورة عدائية ودفعها نحو نقاط الفشل
- خبرة في تطبيق أطر أو معايير لإجراء اختبارات منظمة
- القدرة على توضيح المخاطر بوضوح للجمهورين التقني وغير التقني
- القدرة على التكيف مع اختلاف المشاريع ومتطلبات العملاء
- التفرغ للعمل بصفة متعاقد مستقل
- يُشترط ألا يكون المتقدم مرشحًا لتأشيرة H-1B أو لبرنامج STEM OPT
- يفضل امتلاك خبرة في التعلم الآلي العدائي، بما في ذلك مجموعات بيانات كسر القيود وحقن التعليمات وهجمات RLHF أو DPO أو استخراج النماذج
- يفضل امتلاك خبرة في الأمن السيبراني، مثل اختبار الاختراق أو تطوير الاستغلالات أو الهندسة العكسية
- يفضل امتلاك خبرة في المخاطر الاجتماعية التقنية، مثل اختبار التحرش أو التضليل أو تحليل إساءة الاستخدام أو اختبار الذكاء الاصطناعي الحواري
- يفضل امتلاك خلفية في علم النفس أو التمثيل أو الكتابة تدعم التفكير العدائي غير التقليدي
المزايا
- العمل عن بُعد بالكامل
- جدولة مرنة
- مدفوعات أسبوعية عبر Stripe أو Wise
- موارد للعافية وإرشادات واضحة للمشاريع ذات الحساسية الأعلى
- فرصة لاكتساب خبرة في اختبار اختراق الذكاء الاصطناعي باستخدام البيانات البشرية
- فرصة مباشرة للمساعدة في جعل أنظمة الذكاء الاصطناعي أكثر متانة وأمانًا وجديرة بالثقة
- أجر تنافسي
- مكافأة إحالة تصل إلى 250 دولارًا لكل إحالة ناجحة