51 – 200 Қызметкерлер
Mercor компаниясының қолжетімді профилінде оның өнімдері, қызметтері, клиенттері, саласы немесе жұмысқа қабылдау бағыты туралы компанияны нақты сипаттауға жеткілікті расталған ақпарат жоқ. Бизнесті немесе ондағы мүмкіндіктерді сипаттамас бұрын қосымша бастапқы материал қажет.
Жасанды интеллект қауіпсіздігі бойынша қызыл команда сарапшысы – ағылшын және фин тілдері, АҚШ, қашықтан
Mercor компаниясының адам деректеріне негізделген AI жобалары үшін диалогтық AI модельдері мен агенттеріне қарсы бағытталған тестілеу жүргізіңіз. Озық AI жүйелерін күшейтуге көмектесетін қайталанатын осалдық деректерін жасаңыз.
Сипаттама
- Jailbreak, prompt injection, теріс пайдалану сценарийлері, біржақтылықты пайдалану және көп кезеңді манипуляция арқылы диалогтық AI модельдері мен агенттерін тестілеу
- Қателерге аннотация жасап, осалдықтарды санаттарға бөліп, жүйелік тәуекелдерді анықтау
- Бірізді бағалаулар үшін қалыптасқан таксономияларды, бенчмарктерді және жұмыс нұсқаулықтарын қолдану
- Тапсырыс берушілер үшін қайталанатын есептер, деректер жиынтықтары және шабуыл жағдайларын жасау
- Автоматтандырылған тестілеу байқамай қалуы мүмкін осалдықтарды анықтау
- Бағалау ауқымын кеңейтіп, өндірістегі күтпеген мәселелерді азайтуға көмектесу
- AI жүйелерін оқытатын және жетілдіретін жобаларда жетекші зерттеушілермен жұмыс істеу
Талаптар
- Ағылшын және фин тілдерін еркін немесе ана тілі деңгейінде білу
- AI жүйелеріне қарсы жұмыстарда, киберқауіпсіздікте немесе әлеуметтік-техникалық зерттеулерде қызыл команда ретінде жұмыс істеу тәжірибесі
- AI жүйелерін қарсы бағытталған әдістермен тестілеу және оларды істен шығу нүктелеріне дейін жеткізу қабілеті
- Құрылымдалған тестілеу үшін фреймворктерді немесе бенчмарктерді қолдану тәжірибесі
- Тәуекелдерді техникалық және техникалық емес аудиторияға анық түсіндіре білу
- Жобалар мен тапсырыс беруші талаптарына бейімделу қабілеті
- Тәуелсіз мердігер ретінде жұмыс істеуге қолжетімділік
- H-1B немесе STEM OPT үміткері болмау
- Қалаулы: jailbreak деректер жиынтықтарын, prompt injection, RLHF/DPO шабуылдарын немесе модельді экстракциялауды қоса алғанда, adversarial machine learning тәжірибесі
- Қалаулы: ену тестілеуі, эксплойт әзірлеу немесе кері инженерия салаларындағы киберқауіпсіздік тәжірибесі
- Қалаулы: қудалау немесе жалған ақпаратты зерттеу, теріс пайдалану талдауы немесе диалогтық AI тестілеуіндегі әлеуметтік-техникалық тәуекел тәжірибесі
- Қалаулы: қалыптан тыс қарсы бағытталған ойлауды қолдайтын психология, актерлік өнер немесе жазу тәжірибесі
Артықшылықтар
- Толықтай қашықтан жұмыс істеу
- Икемді жұмыс кестесі
- Stripe немесе Wise арқылы апта сайынғы төлемдер
- Сезімталдығы жоғары жобаларға арналған әл-ауқат ресурстары және нақты нұсқаулықтар
- Адам деректеріне негізделген AI қызыл команда жобаларында тәжірибе жинау мүмкіндігі
- AI жүйелерін анағұрлым берік, қауіпсіз және сенімді етуге тікелей үлес қосу мүмкіндігі
- Бәсекеге қабілетті ақы
- Әр сәтті ұсыныс үшін 250 АҚШ долларына дейінгі реферал бонусы