51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Red teamer inom AI-säkerhet – distansuppdrag (USA)
Mercor söker en red teamer inom AI-säkerhet som ska upptäcka sårbarheter i avancerade AI-modeller genom adversariella tester. Rollen innebär att utforma promptar och bedöma högriskbeteenden hos modeller tillsammans med AI-säkerhetsforskare.
Beskrivning
- Skapa adversariella promptar för att utmana avancerade AI-modeller
- Upptäcka jailbreaks, osäkert beteende, hallucinationer och policyöverträdelser
- Bedöma modellers robusthet inom desinformation, cybersäkerhet, biosäkerhet, bedrägerier, politiskt innehåll och andra känsliga områden
- Dokumentera sårbarheter och bidra till säkerhetsbenchmarks och rapporter om red teaming
- Samarbeta med AI-forskare för att stärka modellers anpassning, robusthet och säkerhet
- Bidra till projekt som tränar och förbättrar AI-system
Krav
- Kandidatexamen eller högre inom datavetenskap, cybersäkerhet, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller ett närliggande område
- Minst fem års yrkeserfarenhet inom AI-säkerhet, AI-red teaming, trust and safety, cybersäkerhet, undersökande journalistik, biovetenskap eller ett närliggande område
- Stark analytisk förmåga samt god förmåga inom promptdesign och skriftlig kommunikation
- Erfarenhet av att skapa adversariella promptar eller bedöma avancerade AI-system
- Meriterande med erfarenhet av AI-red teaming, RLHF, SFT, AI-alignment eller trust and safety
- Meriterande med kunskap om jailbreaktestning, prompt engineering eller metoder för adversariell utvärdering
- Meriterande med expertis inom ett eller flera gråzonområden, exempelvis cybersäkerhet, biosäkerhet, politiskt innehåll, desinformation eller vetenskaplig säkerhet
- Förmåga att arbeta som självständig uppdragstagare
- H-1B- och STEM OPT-kandidater stöds inte
Förmåner
- Helt distansbaserat arbete
- Flexibel arbetstid
- Veckovisa utbetalningar via Stripe eller Wise
- Projekt kan förlängas, förkortas eller avslutas i förtid beroende på verksamhetens behov och prestation
- Arbete med adversariella tester tillsammans med ledande AI-forskare och säkerhetsteam
- Möjlighet att påverka hur AI-system hanterar komplexa säkerhetsutmaningar i verkligheten
- Skäliga anpassningar finns tillgängliga på begäran
- Hänvisningsersättning på upp till 340 USD per godkänd hänvisning, med förbehåll för hänvisningsgränser