51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetstestare för red teaming
Utsätt Mercors avancerade AI-modeller för adversarialtestning för att hitta säkerhetsbrister. Upptäck sårbarheter och bidra till bättre modelljustering.
Beskrivning
- Skapa adversariala promptar för att testa avancerade AI-modeller.
- Hitta jailbreaks, osäkert beteende, hallucinationer och policyöverträdelser.
- Testa modellernas motståndskraft inom desinformation, cybersäkerhet, biosäkerhet, bedrägerier, politiskt innehåll och andra känsliga områden.
- Dokumentera sårbarheter och bidra till säkerhetsriktmärken och rapporter om red teaming.
- Samarbeta med AI-forskare för att stärka modellernas justering, motståndskraft och säkerhet.
- Bidra till att skydda och förbättra nästa generation av avancerade AI-modeller.
- Medverka i projekt som tränar och förbättrar AI-system.
Krav
- Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett närliggande område
- Minst fem års yrkeserfarenhet inom AI-säkerhet, red teaming av AI, tillit och säkerhet, cybersäkerhet, undersökande journalistik, biovetenskap eller ett närliggande område
- God analytisk förmåga samt starka färdigheter i promptdesign och skriftlig kommunikation
- Erfarenhet av att skapa adversariala promptar eller utvärdera avancerade AI-system
- Erfarenhet av red teaming av AI, RLHF, övervakad finjustering, AI-justering eller tillit och säkerhet är meriterande
- Kännedom om jailbreaktester, prompt engineering eller metoder för adversarial utvärdering är meriterande
- Expertis inom minst ett känsligt område, exempelvis cybersäkerhet, biosäkerhet, politiskt innehåll, desinformation eller vetenskaplig säkerhet, är meriterande
- Du får inte behöva H-1B- eller STEM OPT-sponsring; Mercor kan inte stödja kandidater som behöver någon av dessa former av sponsring
Förmåner
- Helt distansbaserat arbete med flexibla arbetstider
- Veckovisa betalningar via Stripe eller Wise för utfört arbete
- Projektets längd kan ändras eller avslutas i förtid utifrån projektbehov och prestation
- Arbeta tillsammans med ledande AI-forskare och säkerhetsteam
- Var med och forma hur AI-system hanterar komplexa säkerhetsutmaningar i verkligheten
- Skäliga anpassningar erbjuds på begäran
- Hänvisningsersättning på upp till 340 USD per lyckad rekrytering, med förbehåll för begränsningar