51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert i engelska och finska
Undersök avancerade AI-system efter sårbarheter med hjälp av jailbreaks, promptinjektioner och scenarier för missbruk. Ta fram strukturerade resultat och reproducerbara attackexempel som stöd för utvärdering av AI-säkerhet.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med jailbreaks, promptinjektioner, scenarier för missbruk, utnyttjande av bias och manipulation i flera turer.
- Skapa data märkta av människor genom att dokumentera fel, klassificera sårbarheter och identifiera systemrisker.
- Använd taxonomier, riktmärken och handböcker för att hålla testerna konsekventa.
- Leverera reproducerbara rapporter, datamängder och attackfall till kunder.
- Bedöm AI-utdata inom känsliga ämnen, däribland bias, desinformation och skadligt beteende.
- Hitta sårbarheter som automatiserade tester kan missa.
- Utöka utvärderingens täckning för att bidra till att förebygga oväntade problem i produktion.
- Bidra till projekt som tränar och förbättrar avancerade AI-system.
Krav
- Flytande engelska och finska eller kunskaper på modersmålsnivå.
- Tidigare erfarenhet av red teaming inom AI-angrepp, cybersäkerhet eller socioteknisk granskning.
- Förmåga att testa AI-system ur ett angriparperspektiv och pressa dem till deras gränser.
- Erfarenhet av ramverk eller riktmärken för strukturerade tester.
- Förmåga att tydligt förklara risker för både tekniska och icke-tekniska målgrupper.
- Förmåga att anpassa sig till olika projekt och kunder.
- Specialisering inom adversariell maskininlärning, cybersäkerhet, sociotekniska risker eller kreativ granskning är meriterande.
- Uppdrag som självständig konsult.
- Får inte behöva sponsring för H-1B eller STEM OPT.
Förmåner
- Helt distansbaserat arbete.
- Flexibelt schema där du själv kan bestämma dina arbetstider.
- Veckovisa utbetalningar via Stripe eller Wise.
- Projekt kan förlängas, förkortas eller avslutas i förtid utifrån behov och prestation.
- Resurser för välmående och tydlig vägledning för projekt som berör ämnen med högre känslighetsgrad.
- Skäliga anpassningar kan ordnas på begäran.
- Möjlighet att få erfarenhet av AI-red teaming baserat på data från mänskliga bedömare.
- Arbeta tillsammans med ledande forskare.
- Ersättning på upp till 250 USD för varje lyckad rekommendation; begränsningar gäller.