مختبر أمان الذكاء الاصطناعي الهجومي - عقد عن بُعد (الولايات المتحدة)
تبحث شركة Mercor عن مختبر أمان للذكاء الاصطناعي لاكتشاف نقاط الضعف في نماذج الذكاء الاصطناعي المتقدمة من خلال الاختبارات الهجومية. يتضمن الدور تصميم المطالبات وتقييم سلوك النماذج عالي الخطورة بالتعاون مع باحثي أمان الذكاء الاصطناعي.
الولايات المتحدة70 US$ – 84 US$ / ساعة
عن بُعدعقدمتوسطخبيراللغة المطلوبة: الإنجليزيةالذكاء الاصطناعيالوصف
- إنشاء مطالبات هجومية لتحدي نماذج الذكاء الاصطناعي المتقدمة
- اكتشاف عمليات كسر الحماية والسلوك غير الآمن والهلوسات وانتهاكات السياسات
- تقييم متانة النماذج في مجالات التضليل والأمن السيبراني والأمن الحيوي والاحتيال والمحتوى السياسي وغيرها من المجالات الحساسة
- تسجيل نقاط الضعف ودعم معايير أمان الذكاء الاصطناعي وتقارير الاختبارات الهجومية
- التعاون مع باحثي الذكاء الاصطناعي لتعزيز توافق النماذج ومتانتها وأمانها
- المساهمة في مشاريع لتدريب أنظمة الذكاء الاصطناعي وتحسينها
المتطلبات
- درجة بكالوريوس أو أعلى في علوم الحاسوب أو الأمن السيبراني أو الصحافة أو الاتصالات أو علم النفس أو علم الأحياء أو الكيمياء أو السياسات العامة أو مجال ذي صلة
- خبرة مهنية لا تقل عن خمس سنوات في أمان الذكاء الاصطناعي أو الاختبارات الهجومية للذكاء الاصطناعي أو الثقة والأمان أو الأمن السيبراني أو الصحافة الاستقصائية أو علوم الحياة أو مجال ذي صلة
- قدرات قوية في التفكير التحليلي وتصميم المطالبات والتواصل الكتابي
- خبرة في إنشاء مطالبات هجومية أو تقييم أنظمة الذكاء الاصطناعي المتقدمة
- تُفضّل الخبرة في الاختبارات الهجومية للذكاء الاصطناعي أو RLHF أو SFT أو توافق الذكاء الاصطناعي أو الثقة والأمان
- تُفضّل المعرفة المألوفة باختبارات كسر الحماية أو هندسة المطالبات أو أساليب التقييم الهجومي
- تُفضّل الخبرة في مجال رمادي واحد أو أكثر، مثل الأمن السيبراني أو الأمن الحيوي أو المحتوى السياسي أو التضليل أو الأمان العلمي
- القدرة على العمل بصفة متعاقد مستقل
- لا يتم دعم المرشحين الحاصلين على تأشيرة H-1B أو STEM OPT
المزايا
- العمل عن بُعد بالكامل
- جدولة مرنة
- دفعات أسبوعية عبر Stripe أو Wise
- قد تُمدد المشاريع أو تُختصر أو تُنهى مبكرًا بناءً على احتياجات العمل والأداء
- العمل في الاختبارات الهجومية مع باحثي الذكاء الاصطناعي وفرق الأمان الرائدة
- فرصة للمساهمة في تشكيل طريقة تعامل أنظمة الذكاء الاصطناعي مع تحديات الأمان المعقدة في العالم الحقيقي
- تتوفر التسهيلات المعقولة عند الطلب
- دفعات إحالة تصل إلى 340 دولارًا لكل إحالة ناجحة، مع مراعاة حدود الإحالات