مختبر أمان الذكاء الاصطناعي الهجومي
تبحث ميركور عن مختبر أمان للذكاء الاصطناعي لاختبار النماذج المتقدمة باستخدام مطالبات عدائية. يركز العمل على اكتشاف نقاط الضعف ومساعدة شركاء مختبرات الذكاء الاصطناعي على تحسين مواءمة النماذج ومتانتها وأمانها.
الولايات المتحدة70 US$ – 84 US$ / ساعة
عن بُعدعقدمتوسطخبيراللغة المطلوبة: الإنجليزيةالذكاء الاصطناعيالوصف
- أنشئ مطالبات عدائية لاختبار نماذج الذكاء الاصطناعي المتقدمة.
- اكتشف محاولات كسر القيود والسلوك غير الآمن والهلوسات والإخفاقات في اتباع السياسات.
- قيّم متانة النماذج في مجالات حساسة، تشمل المعلومات المضللة والأمن السيبراني والأمن البيولوجي والاحتيال والمحتوى السياسي.
- سجّل الثغرات وساعد في إعداد معايير الأمان وتقارير الاختبار الهجومي.
- تعاون مع باحثي الذكاء الاصطناعي لتعزيز مواءمة النماذج ومتانتها وأمانها.
- ساهم في مشاريع تدريب أنظمة الذكاء الاصطناعي وتحسينها.
المتطلبات
- درجة بكالوريوس أو أعلى في علوم الحاسوب أو الأمن السيبراني أو الصحافة أو الاتصالات أو علم النفس أو الأحياء أو الكيمياء أو السياسات العامة أو مجال ذي صلة.
- خبرة مهنية لا تقل عن خمس سنوات في أمان الذكاء الاصطناعي أو الاختبار الهجومي للذكاء الاصطناعي أو الثقة والأمان أو الأمن السيبراني أو الصحافة الاستقصائية أو علوم الحياة أو مجال ذي صلة.
- قدرات قوية في التفكير التحليلي وتصميم المطالبات والتواصل الكتابي.
- خبرة في إنشاء مطالبات عدائية أو تقييم أنظمة الذكاء الاصطناعي المتقدمة.
- تُفضّل الخبرة في الاختبار الهجومي للذكاء الاصطناعي أو التعلم المعزز من الملاحظات البشرية (RLHF) أو الضبط الدقيق الخاضع للإشراف (SFT) أو مواءمة الذكاء الاصطناعي أو الثقة والأمان.
- تُفضّل الإلمام باختبار كسر القيود أو هندسة المطالبات أو أساليب التقييم العدائي.
- تُفضّل الخبرة في مجالات دقيقة مثل الأمن السيبراني أو الأمن البيولوجي أو المحتوى السياسي أو المعلومات المضللة أو السلامة العلمية.
- القدرة على العمل بصفة متعاقد مستقل.
- لا يتوفر دعم للمرشحين الحاصلين على تأشيرة H-1B أو المشاركين في برنامج STEM OPT.
المزايا
- العمل عن بُعد من أي مكان في الولايات المتحدة.
- تحديد جدول عملك بنفسك.
- تلقي المدفوعات أسبوعيًا عبر Stripe أو Wise.
- قد تُمدد المشاريع أو تُختصر أو تُنهى مبكرًا وفقًا لاحتياجات المشروع والأداء.
- العمل مع باحثين وفرق أمان رائدة في مجال الذكاء الاصطناعي.
- المساهمة في تشكيل أمان أنظمة الذكاء الاصطناعي المتقدمة.
- تتوفر ترتيبات تيسيرية معقولة عند الطلب.
- كسب مكافآت إحالة تصل إلى 340 دولارًا عن كل إحالة ناجحة؛ تسري حدود.