51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsred teamer – distansarbete i USA
Mercor söker en AI-säkerhetsred teamer på distans som ska utmana banbrytande AI-modeller och upptäcka sårbarheter inom högriskområden. Kontraktsrollen stödjer AI-laboratorier som utvecklar och förbättrar avancerade system.
Beskrivning
- Skapa adversariella promptar för att testa banbrytande AI-modeller
- Upptäcka jailbreaks, osäkert beteende, hallucinationer och policyöverträdelser
- Bedöma modellernas motståndskraft mot desinformation, cyberhot, biosäkerhetsrisker, bedrägerier, politiskt innehåll och andra känsliga ämnen
- Dokumentera upptäckta sårbarheter och bidra till säkerhetsbenchmarkar och red-team-rapporter
- Samarbeta med AI-forskare för att stärka modellanpassning, robusthet och säkerhet
- Bidra till projekt som tränar och förbättrar AI-system
Krav
- Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett relaterat område
- Minst fem års yrkeserfarenhet inom AI-säkerhet, AI-red teaming, tillit och säkerhet, cybersäkerhet, undersökande journalistik, livsvetenskaper eller ett relaterat område
- Stark analytisk bedömningsförmåga, förmåga att utforma promptar och god skriftlig kommunikationsförmåga
- Erfarenhet av att skapa adversariella promptar eller bedöma banbrytande AI-system
- Erfarenhet av AI-red teaming, RLHF, SFT, AI-anpassning eller tillit och säkerhet är meriterande
- Kännedom om jailbreak-testning, prompt engineering eller adversariella utvärderingsmetoder är meriterande
- Expertis inom minst ett gråzonsområde, exempelvis cybersäkerhet, biosäkerhet, politiskt innehåll, desinformation eller vetenskaplig säkerhet, är meriterande
- Förmåga att arbeta som självständig uppdragstagare
- H-1B- och STEM OPT-kandidater stöds inte
Förmåner
- Helt distansbaserat arbete
- Flexibelt och självständigt arbetsschema
- Veckovisa utbetalningar via Stripe eller Wise
- Projekt kan förlängas, kortas ned eller avslutas i förtid beroende på verksamhetens behov och prestation
- Konkurrenskraftig ersättning
- Samarbete med ledande AI-forskare och säkerhetsteam
- Skäliga anpassningar erbjuds på begäran
- Hänvisningsersättning på upp till 340 USD per genomförd hänvisning, med förbehåll för tillämpliga begränsningar