51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert, engelska och nederländska (distansuppdrag)
Mercor söker AI-säkerhetsexperter som talar engelska och nederländska för att stresstesta konversationsmodeller och agenter. Arbetet omfattar att skapa sårbarhetsdata, attackscenarier och reproducerbara säkerhetsrapporter för utveckling av banbrytande AI.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera dialogvändor
- Skapa människogenererade data genom att annotera fel, klassificera sårbarheter och identifiera systemiska risker
- Använd taxonomier, benchmarktester och handlingsplaner för att stödja konsekventa säkerhetstester
- Utveckla reproducerbara rapporter, datamängder och attackfall för kunder
- Hitta sårbarheter som automatiserade tester kan missa
- Bredda utvärderingen för att bidra till att minska oväntade risker i produktion
- Arbeta med ledande forskare för att träna och förbättra banbrytande AI-system
Krav
- Modersmålsnivå i engelska och nederländska
- Tidigare erfarenhet av AI-stresstestning, offensivt cybersäkerhetsarbete eller socioteknisk sondering
- Förmåga att testa AI-system antagonistiskt och driva dem mot situationer där de fallerar
- Erfarenhet av att tillämpa ramverk eller benchmarktester på strukturerade tester
- Förmåga att tydligt kommunicera risker till tekniska och icke-tekniska målgrupper
- Förmåga att anpassa sig till olika projekt och kunder
- Erfarenhet av antagonistisk maskininlärning med jailbreak-datamängder, promptinjektion, RLHF-/DPO-attacker eller modellextraktion är meriterande
- Erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering är meriterande
- Erfarenhet av sociotekniska risker med sondering av trakasserier eller desinformation, missbruksanalys eller testning av konversationsbaserad AI är meriterande
- Erfarenhet av kreativ sondering inom psykologi, skådespeleri eller skrivande är meriterande
- Du måste kunna arbeta som oberoende uppdragstagare
- H-1B- och STEM OPT-kandidater stöds inte
Förmåner
- Helt distansbaserat arbete
- Flexibla arbetstider med möjlighet att själv bestämma dina arbetstimmar
- Veckovisa betalningar via Stripe eller Wise baserat på utförda tjänster
- Projekt kan förlängas, förkortas eller avslutas i förtid beroende på verksamhetens behov och prestation
- Deltagande i projekt med högre känslighetsnivå är frivilligt
- Innehållsriktlinjer och resurser för välmående tillhandahålls
- Skäliga anpassningar finns tillgängliga på begäran
- Konkurrenskraftig timlön
- Möjlighet att få upp till 250 USD per lyckad rekommendation, med förbehåll för begränsningar