एआई सुरक्षा रेड टीम विशेषज्ञ – अंग्रेज़ी और तमिल, दूरस्थ अनुबंध
जेलब्रेक और संरचित रेड-टीम विश्लेषण के माध्यम से संवादात्मक एआई मॉडल और एजेंट की कमजोरियों की जाँच करें। Mercor की एआई लैब के ग्राहकों के लिए हमले के मामले, कमजोरियों का डेटा और पुनरुत्पाद्य रिपोर्ट तैयार करें।
विवरण
- जेलब्रेक, प्रॉम्प्ट इंजेक्शन, दुरुपयोग के परिदृश्य, पक्षपात के शोषण और बहु-चरणीय हेरफेर का उपयोग करके संवादात्मक एआई मॉडल और एजेंट की जाँच करें
- विफलताओं का दस्तावेजीकरण करके, कमजोरियों को वर्गीकृत करके और प्रणालीगत जोखिमों की पहचान करके मानव-लेबल वाला डेटा तैयार करें
- सुसंगत मूल्यांकन बनाए रखने के लिए स्थापित वर्गीकरण, बेंचमार्क और प्लेबुक का उपयोग करें
- ग्राहकों के लिए पुनरुत्पाद्य रिपोर्ट, डेटासेट और हमले के मामले विकसित करें
- पक्षपात, गलत सूचना, हानिकारक व्यवहार और अन्य संवेदनशील विषयों से जुड़े एआई आउटपुट का आकलन करें
- उन कमजोरियों की पहचान करें जिन्हें स्वचालित परीक्षण नज़रअंदाज़ कर सकता है
- मूल्यांकन का दायरा बढ़ाएँ और उत्पादन में आने वाली अप्रत्याशित समस्याओं को रोकने में सहायता करें
- ग्राहकों की एआई प्रणालियों में सुधार करें और अधिक सुरक्षित, विश्वसनीय मॉडल बनाने में योगदान दें
आवश्यकताएँ
- अंग्रेज़ी और तमिल दोनों में मातृभाषा-स्तर की प्रवाहिता
- भाषा और सामग्री का मूल्यांकन करते समय सही विवेक
- यह निर्धारित करने की क्षमता कि एआई प्रतिक्रियाएँ सटीक, पूर्ण और उपयुक्त हैं या नहीं, तथा आकलन समझाने की क्षमता
- सूक्ष्म त्रुटियों, असंगतियों और छूटे हुए विवरणों पर सावधानीपूर्वक ध्यान
- दिशानिर्देशों और गुणवत्ता मानकों को लगातार लागू करने की क्षमता
- तकनीकी और गैर-तकनीकी श्रोताओं के सामने अपने तर्क को स्पष्ट रूप से संप्रेषित करने की क्षमता
- विभिन्न परियोजनाओं, कार्य प्रारूपों और ग्राहकों के अनुसार ढलने की क्षमता
- वांछनीय: जेलब्रेक डेटासेट, प्रॉम्प्ट इंजेक्शन, RLHF या DPO हमलों अथवा मॉडल एक्सट्रैक्शन के साथ प्रतिकूल मशीन लर्निंग का अनुभव
- वांछनीय: पैठ परीक्षण, एक्सप्लॉइट विकास या रिवर्स इंजीनियरिंग में साइबर सुरक्षा की पृष्ठभूमि
- वांछनीय: उत्पीड़न और गलत सूचना की जाँच, दुरुपयोग विश्लेषण या संवादात्मक एआई परीक्षण जैसे सामाजिक-तकनीकी जोखिमों का अनुभव
- वांछनीय: मनोविज्ञान, अभिनय या लेखन में रचनात्मक जाँच का अनुभव
- स्वतंत्र ठेकेदार के रूप में काम करना अनिवार्य है
- H-1B और STEM OPT उम्मीदवारों के लिए यह अवसर उपलब्ध नहीं है
लाभ
- पूरी तरह दूरस्थ कार्य
- अपना समय स्वयं निर्धारित करने की सुविधा के साथ लचीला शेड्यूल
- Stripe या Wise के माध्यम से साप्ताहिक भुगतान
- प्रतिस्पर्धी प्रति घंटा पारिश्रमिक
- फ्रंटियर सुरक्षा पर केंद्रित मानव-डेटा-आधारित एआई रेड टीमिंग में अनुभव प्राप्त करने का अवसर
- अधिक मजबूत, सुरक्षित और भरोसेमंद एआई प्रणालियों में प्रत्यक्ष योगदान
- अधिक संवेदनशील परियोजनाओं में वैकल्पिक भागीदारी
- संवेदनशील सामग्री वाली परियोजनाओं के लिए दिशानिर्देश और कल्याण संसाधन
- अनुरोध पर उचित समायोजन उपलब्ध
- प्रत्येक सफल रेफरल पर $90 तक का रेफरल कार्यक्रम, रेफरल सीमाओं के अधीन