51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert – engelska och assamesiska | Mercor distansuppdrag
Genomför adversariella tester av banbrytande AI-modeller för att upptäcka jailbreaks, partiskhet, missbruk och andra säkerhetsrisker. Skapa annoteringar av mänskliga data, sårbarhetsklassificeringar och reproducerbara attackbevis för Mercors kunder.
Beskrivning
- Genomför adversariella tester av konversationsbaserade AI-modeller och agenter för att upptäcka jailbreaks, promptinjektioner, missbruk, utnyttjande av partiskhet och manipulation i flera turer
- Skapa annoteringar av mänskliga data, klassificera fel och identifiera systemiska risker
- Använd etablerade taxonomier, riktmärken och arbetsmetoder för att standardisera utvärderingar
- Leverera reproducerbara rapporter, dataset och attackfall till kunder
- Bedöm AI-svar som rör partiskhet, desinformation, skadligt beteende och andra känsliga ämnen
- Hitta svagheter som automatiserade tester inte upptäcker
- Bredda utvärderingstäckningen för att bidra till att förebygga oväntade problem i produktion
- Förbättra kundernas AI-system genom strukturerade adversariella tester
Krav
- Modersmålsnivå i engelska och assamesiska
- Gott omdöme vid bedömning av språk och innehåll utifrån korrekthet, fullständighet och lämplighet
- Förmåga att upptäcka subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder
- Tydlig kommunikation av resonemang till både tekniska och icke-tekniska målgrupper
- Flexibilitet mellan projekt, uppgiftsformat och kundbehov
- Meriterande: erfarenhet av adversariellt maskininlärande med jailbreak-dataset, promptinjektion, RLHF- eller DPO-attacker eller modellextraktion
- Meriterande: erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering
- Meriterande: erfarenhet av sociotekniska risker inom sondering av trakasserier eller desinformation, missbruksanalys eller testning av konversationsbaserad AI
- Meriterande: erfarenhet av psykologi, skådespeleri eller skrivande som främjar okonventionellt adversariellt tänkande
- Måste arbeta som självständig uppdragstagare
- H-1B- och STEM OPT-kandidater stöds inte
Förmåner
- Arbeta helt på distans
- Välj ditt eget arbetsschema
- Få veckovisa betalningar via Stripe eller Wise
- Bygg praktisk erfarenhet av AI-red teaming baserat på mänskliga data
- Bidra till att göra AI-system mer robusta, säkra och pålitliga
- Arbeta med ledande forskare
- Skäliga anpassningar finns tillgängliga på begäran
- Tjäna hänvisningsersättning på upp till 90 USD för framgångsrika hänvisningar