51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsred teamare
Stresstesta Mercors partnerlabb och deras avancerade AI-system genom att undersöka sårbarheter inom högriskområden. Bidra med resultat till säkerhetsriktmärken och hjälp forskare att förbättra modellernas robusthet och anpassning.
Beskrivning
- Skapa adversariella promptar för att testa avancerade AI-modeller.
- Hitta jailbreaks, osäkert beteende, hallucinationer och policyöverträdelser.
- Bedöm modellernas robusthet inom känsliga områden som desinformation, cybersäkerhet, biosäkerhet, bedrägerier och politiskt innehåll.
- Dokumentera sårbarheter och bidra till säkerhetsriktmärken och red team-rapporter.
- Samarbeta med AI-forskare för att stärka modellernas anpassning, robusthet och säkerhet.
- Stöd projekt som tränar och förbättrar AI-system.
- Planera ditt eget schema. Projektets längd kan ändras eller projektet avslutas i förtid utifrån verksamhetens behov och arbetsprestation.
Krav
- Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett närliggande område.
- Minst fem års yrkeserfarenhet inom AI-säkerhet, red teaming av AI, tillits- och säkerhetsarbete, cybersäkerhet, undersökande journalistik, livsvetenskap eller ett närliggande område.
- God analytisk förmåga samt starka färdigheter i promptutformning och skriftlig kommunikation.
- Erfarenhet av att skapa adversariella promptar eller utvärdera avancerade AI-system.
- Meriterande: erfarenhet av red teaming av AI, RLHF, SFT, AI-anpassning eller tillits- och säkerhetsarbete.
- Meriterande: kunskap om jailbreaktestning, prompt engineering eller metoder för adversariell utvärdering.
- Meriterande: expertis inom ett eller flera känsliga områden, till exempel cybersäkerhet, biosäkerhet, politiskt innehåll, desinformation eller vetenskaplig säkerhet.
- Uppdraget utförs som självständig uppdragstagare.
- Du måste kunna arbeta utan stöd för H-1B eller STEM OPT.
Förmåner
- Helt distansbaserat arbete med flexibelt schema.
- Veckovisa utbetalningar via Stripe eller Wise för utfört arbete.
- Arbeta tillsammans med ledande AI-forskare och säkerhetsteam.
- Bidra till att forma hur AI-system hanterar komplexa säkerhetsutmaningar i verkligheten.
- Konkurrenskraftig ersättning.
- Skäliga anpassningar erbjuds på begäran.
- Rekommendationsersättning på upp till 340 per godkänd rekommendation, med förbehåll för begränsningar.