مختبر سلامة نماذج الذكاء الاصطناعي (الفريق الأحمر)
اختبر نماذج Mercor المتقدمة بحثًا عن نقاط ضعف السلامة عبر الاختبارات الهجومية. اكتشف الثغرات وساهم في تحسين مواءمة النماذج.
الولايات المتحدة70 US$ – 84 US$ / ساعة
عن بُعدعقدمتوسطخبيراللغة المطلوبة: الإنجليزيةالذكاء الاصطناعيالوصف
- صمّم مطالبات هجومية لاختبار نماذج الذكاء الاصطناعي المتقدمة.
- اكتشف محاولات كسر الحماية والسلوك غير الآمن والهلوسات ومخالفات السياسات.
- اختبر قدرة النماذج على الصمود أمام التضليل والأمن السيبراني والأمن البيولوجي والاحتيال والمحتوى السياسي ومجالات حساسة أخرى.
- وثّق الثغرات وساهم في إعداد معايير السلامة وتقارير الاختبار الهجومي.
- تعاون مع باحثي الذكاء الاصطناعي لتعزيز مواءمة النماذج وقدرتها على الصمود وسلامتها.
- ساعد في حماية الجيل القادم من نماذج الذكاء الاصطناعي المتقدمة وتحسينه.
- ساهم في مشاريع تدريب أنظمة الذكاء الاصطناعي وتحسينها.
المتطلبات
- درجة البكالوريوس أو أعلى في علوم الحاسوب أو الأمن السيبراني أو الصحافة أو الاتصالات أو علم النفس أو الأحياء أو الكيمياء أو السياسات العامة أو مجال ذي صلة
- خبرة مهنية لا تقل عن خمس سنوات في سلامة الذكاء الاصطناعي أو الاختبارات الهجومية للذكاء الاصطناعي أو الثقة والسلامة أو الأمن السيبراني أو الصحافة الاستقصائية أو علوم الحياة أو مجال ذي صلة
- مهارات قوية في التفكير التحليلي وتصميم المطالبات والكتابة
- خبرة في إنشاء مطالبات هجومية أو تقييم أنظمة الذكاء الاصطناعي المتقدمة
- تُفضّل الخبرة في الاختبارات الهجومية للذكاء الاصطناعي أو التعلم المعزز من التقييمات البشرية (RLHF) أو الضبط الدقيق الخاضع للإشراف أو مواءمة الذكاء الاصطناعي أو الثقة والسلامة
- تُفضّل المعرفة باختبار كسر الحماية أو هندسة المطالبات أو أساليب التقييم الهجومي
- تُفضّل الخبرة المتخصصة في مجال حساس واحد على الأقل، مثل الأمن السيبراني أو الأمن البيولوجي أو المحتوى السياسي أو التضليل أو السلامة العلمية
- يجب ألا يحتاج المرشح إلى رعاية تأشيرة H-1B أو برنامج STEM OPT؛ إذ لا تستطيع Mercor دعم المرشحين الذين يحتاجون إلى أيٍّ منهما
المزايا
- عمل عن بُعد بالكامل مع جدول مرن
- دفعات أسبوعية عبر Stripe أو Wise مقابل الخدمات المقدمة
- قد تتغير مدة المشروع أو ينتهي مبكرًا بناءً على احتياجات المشروع والأداء
- العمل مع نخبة من باحثي الذكاء الاصطناعي وفرق السلامة
- المساهمة في تشكيل طريقة تعامل أنظمة الذكاء الاصطناعي مع تحديات السلامة المعقدة في العالم الحقيقي
- تتوفر تسهيلات معقولة عند الطلب
- مدفوعات إحالة تصل إلى 340 دولارًا لكل إحالة ناجحة، مع مراعاة الحدود