एआई सुरक्षा रेड टीमर - दूरस्थ अनुबंध (संयुक्त राज्य अमेरिका)
Mercor एक एआई सुरक्षा रेड टीमर की तलाश कर रहा है, जो प्रतिकूल परीक्षण के माध्यम से अत्याधुनिक एआई मॉडलों की कमजोरियों का पता लगाए। इस भूमिका में प्रॉम्प्ट तैयार करना और एआई सुरक्षा शोधकर्ताओं के साथ उच्च-जोखिम वाले मॉडल व्यवहार का आकलन करना शामिल है।
विवरण
- अत्याधुनिक एआई मॉडलों को चुनौती देने के लिए प्रतिकूल प्रॉम्प्ट तैयार करना
- जेलब्रेक, असुरक्षित व्यवहार, मतिभ्रम और नीति उल्लंघनों का पता लगाना
- गलत सूचना, साइबर सुरक्षा, जैव सुरक्षा, धोखाधड़ी, राजनीतिक सामग्री और अन्य संवेदनशील क्षेत्रों में मॉडल की मजबूती का आकलन करना
- कमजोरियों को दर्ज करना और सुरक्षा बेंचमार्क तथा रेड-टीमिंग रिपोर्ट में सहयोग करना
- मॉडल के संरेखण, मजबूती और सुरक्षा को बेहतर बनाने के लिए एआई शोधकर्ताओं के साथ साझेदारी करना
- एआई प्रणालियों को प्रशिक्षित और बेहतर बनाने वाली परियोजनाओं में योगदान देना
आवश्यकताएँ
- कंप्यूटर विज्ञान, साइबर सुरक्षा, पत्रकारिता, संचार, मनोविज्ञान, जीवविज्ञान, रसायन विज्ञान, सार्वजनिक नीति या संबंधित क्षेत्र में स्नातक या उच्चतर डिग्री
- एआई सुरक्षा, एआई रेड टीमिंग, ट्रस्ट एंड सेफ्टी, साइबर सुरक्षा, खोजी पत्रकारिता, जीवन विज्ञान या संबंधित क्षेत्र में कम से कम पांच वर्ष का पेशेवर अनुभव
- मजबूत विश्लेषणात्मक तर्क, प्रॉम्प्ट-डिजाइन और लिखित संचार कौशल
- प्रतिकूल प्रॉम्प्ट तैयार करने या अत्याधुनिक एआई प्रणालियों का आकलन करने का अनुभव
- एआई रेड टीमिंग, RLHF, SFT, एआई संरेखण या ट्रस्ट एंड सेफ्टी में अनुभव वांछनीय
- जेलब्रेक परीक्षण, प्रॉम्प्ट इंजीनियरिंग या प्रतिकूल मूल्यांकन विधियों से परिचित होना वांछनीय
- साइबर सुरक्षा, जैव सुरक्षा, राजनीतिक सामग्री, गलत सूचना या वैज्ञानिक सुरक्षा जैसे एक या अधिक अस्पष्ट-सीमा वाले क्षेत्रों में विशेषज्ञता वांछनीय
- स्वतंत्र ठेकेदार के रूप में काम करने की क्षमता
- H-1B और STEM OPT उम्मीदवारों को सहायता उपलब्ध नहीं है
लाभ
- पूरी तरह दूरस्थ कार्य
- लचीला समय निर्धारण
- Stripe या Wise के माध्यम से साप्ताहिक भुगतान
- व्यावसायिक आवश्यकताओं और प्रदर्शन के आधार पर परियोजनाएं बढ़ाई, घटाई या समय से पहले समाप्त की जा सकती हैं
- अग्रणी एआई शोधकर्ताओं और सुरक्षा टीमों के साथ प्रतिकूल परीक्षण का कार्य
- जटिल, वास्तविक दुनिया की सुरक्षा चुनौतियों से एआई प्रणालियों के निपटने के तरीके को आकार देने का अवसर
- अनुरोध पर उचित सुविधाएं उपलब्ध हैं
- प्रति सफल रेफरल 340 डॉलर तक का रेफरल भुगतान, रेफरल सीमाओं के अधीन