एआई सुरक्षा रेड टीम विशेषज्ञ – अंग्रेज़ी और फ़िनिश, संयुक्त राज्य अमेरिका में दूरस्थ कार्य
Mercor की मानव-डेटा एआई परियोजनाओं के लिए संवादात्मक एआई मॉडलों और एजेंटों का प्रतिकूल परीक्षण करें। अग्रणी एआई प्रणालियों को मजबूत बनाने में मदद के लिए पुनरुत्पाद्य भेद्यता डेटा तैयार करें।
विवरण
- जेलब्रेक, प्रॉम्प्ट इंजेक्शन, दुरुपयोग परिदृश्यों, पक्षपात के शोषण और बहु-चरणीय हेरफेर का उपयोग करके संवादात्मक एआई मॉडलों और एजेंटों का परीक्षण करें
- विफलताओं का एनोटेशन करें, भेद्यताओं को वर्गीकृत करें और प्रणालीगत जोखिमों की पहचान करें
- सुसंगत मूल्यांकन के लिए स्थापित वर्गीकरण प्रणालियों, बेंचमार्क और प्लेबुक का उपयोग करें
- ग्राहकों के लिए पुनरुत्पाद्य रिपोर्ट, डेटासेट और हमले के मामलों का निर्माण करें
- उन भेद्यताओं की पहचान करें जिन्हें स्वचालित परीक्षण नज़रअंदाज़ कर सकते हैं
- मूल्यांकन का दायरा बढ़ाएँ और उत्पादन में अप्रत्याशित समस्याओं को कम करने में मदद करें
- उन अग्रणी शोधकर्ताओं के साथ काम करें जो एआई प्रणालियों को प्रशिक्षित और बेहतर बनाने वाली परियोजनाओं पर काम करते हैं
आवश्यकताएँ
- अंग्रेज़ी और फ़िनिश भाषा में धाराप्रवाह या मातृभाषा स्तर का कौशल
- एआई प्रतिकूल कार्य, साइबर सुरक्षा या सामाजिक-तकनीकी जांच में पूर्व रेड टीमिंग अनुभव
- एआई प्रणालियों का प्रतिकूल परीक्षण करने और उन्हें विफलता के बिंदुओं तक पहुँचाने की क्षमता
- संरचित परीक्षण के लिए फ्रेमवर्क या बेंचमार्क लागू करने का अनुभव
- तकनीकी और गैर-तकनीकी दर्शकों के सामने जोखिमों को स्पष्ट रूप से संप्रेषित करने की क्षमता
- परियोजनाओं और ग्राहकों की आवश्यकताओं के अनुसार अनुकूलनशीलता
- स्वतंत्र ठेकेदार के रूप में काम करने की उपलब्धता
- H-1B या STEM OPT उम्मीदवार नहीं होना चाहिए
- वांछनीय: प्रतिकूल मशीन लर्निंग का अनुभव, जिसमें जेलब्रेक डेटासेट, प्रॉम्प्ट इंजेक्शन, RLHF/DPO हमले या मॉडल एक्सट्रैक्शन शामिल हों
- वांछनीय: पैठ परीक्षण, एक्सप्लॉइट विकास या रिवर्स इंजीनियरिंग में साइबर सुरक्षा अनुभव
- वांछनीय: उत्पीड़न या दुष्प्रचार की जांच, दुरुपयोग विश्लेषण या संवादात्मक एआई परीक्षण में सामाजिक-तकनीकी जोखिम का अनुभव
- वांछनीय: मनोविज्ञान, अभिनय या लेखन का ऐसा अनुभव जो असामान्य प्रतिकूल सोच को समर्थन दे
लाभ
- पूरी तरह दूरस्थ कार्य
- लचीला समय निर्धारण
- Stripe या Wise के माध्यम से साप्ताहिक भुगतान
- उच्च-संवेदनशीलता वाली परियोजनाओं के लिए कल्याण संसाधन और स्पष्ट दिशानिर्देश
- मानव-डेटा एआई रेड टीमिंग में अनुभव प्राप्त करने का अवसर
- एआई प्रणालियों को अधिक मजबूत, सुरक्षित और भरोसेमंद बनाने में सीधे योगदान देने का अवसर
- प्रतिस्पर्धी भुगतान
- प्रत्येक सफल रेफरल के लिए $250 तक का रेफरल बोनस