51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Expert på AI-säkerhet och red teaming – engelska och finska, distansarbete i USA
Genomför motståndstestning av konversationsbaserade AI-modeller och agenter för Mercors AI-projekt med mänskliga data. Skapa reproducerbara sårbarhetsdata som bidrar till att stärka avancerade AI-system.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, biasexploatering och manipulation i flera turer
- Dokumentera fel, kategorisera sårbarheter och identifiera systemrisker
- Tillämpa etablerade taxonomier, riktmärken och arbetsinstruktioner för konsekventa utvärderingar
- Skapa reproducerbara rapporter, dataset och attackfall för kunder
- Identifiera sårbarheter som automatiserade tester kan missa
- Bredda utvärderingstäckningen och bidra till att minska oväntade problem i produktion
- Samarbeta med ledande forskare i projekt som tränar och förbättrar AI-system
Krav
- Flytande eller modersmålsnivå i engelska och finska
- Tidigare erfarenhet av red teaming inom AI-konfrontationstestning, cybersäkerhet eller socioteknisk granskning
- Förmåga att testa AI-system offensivt och driva dem mot deras svagheter
- Erfarenhet av att tillämpa ramverk eller riktmärken för strukturerad testning
- Förmåga att tydligt kommunicera risker till både tekniska och icke-tekniska målgrupper
- Anpassningsförmåga mellan olika projekt och kundkrav
- Tillgänglighet för ett uppdrag som oberoende uppdragstagare
- Får inte vara kandidat för H-1B eller STEM OPT
- Meriterande: erfarenhet av adversariellt maskininlärande, inklusive jailbreak-dataset, promptinjektioner, RLHF/DPO-attacker eller modellextraktion
- Meriterande: erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering
- Meriterande: erfarenhet av sociotekniska risker inom granskning av trakasserier eller desinformation, missbruksanalys eller testning av konversationsbaserad AI
- Meriterande: erfarenhet av psykologi, skådespeleri eller skrivande som stöder okonventionellt offensivt tänkande
Förmåner
- Helt distansbaserat arbete
- Flexibla arbetstider
- Veckovisa utbetalningar via Stripe eller Wise
- Friskvårdsresurser och tydliga riktlinjer för projekt med högre känslighetsnivå
- Möjlighet att få erfarenhet av red teaming av AI med mänskliga data
- Direkt möjlighet att bidra till att göra AI-system mer robusta, säkra och tillförlitliga
- Konkurrenskraftig ersättning
- Rekryteringsbonus på upp till 250 USD för varje lyckad rekommendation