51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Distansbaserad AI-säkerhetsexpert (engelska och telugu)
Mercor söker en AI-säkerhetsexpert för red teaming som behärskar engelska och telugu och kan identifiera sårbarheter i banbrytande AI-modeller. Arbetet omfattar att skapa adversariella testfall, strukturerade dataset och reproducerbara rapporter.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Dokumentera fel, kategorisera sårbarheter och identifiera systemiska risker
- Tillämpa etablerade taxonomier, benchmarktester och arbetsmetoder för konsekventa utvärderingar
- Skapa reproducerbara rapporter, dataset och adversariella attackfall
- Bedöm AI-utdata med avseende på partiskhet, desinformation, skadligt beteende och andra risker med känsligt innehåll
- Bredda utvärderingstäckningen för att hitta sårbarheter som automatiserade tester kan missa
- Bidra till projekt som tränar och förbättrar banbrytande AI-system
Krav
- Modersmålsnivå i både engelska och telugu
- Gott omdöme vid bedömning av om AI-svar är korrekta, fullständiga och lämpliga
- Förmåga att upptäcka subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder
- Förmåga att tydligt kommunicera resonemang till tekniska och icke-tekniska målgrupper
- Flexibilitet mellan projekt, uppgiftsformat och kunder
- Villighet att arbeta som självständig uppdragstagare
- Får inte behöva stöd för H-1B eller STEM OPT
- Erfarenhet av adversariellt maskininlärande, cybersäkerhet, socioteknisk risk eller kreativ sondering är meriterande
Förmåner
- Arbeta helt på distans
- Välj ditt eget arbetsschema
- Få veckovisa betalningar via Stripe eller Wise
- Projektets längd kan ändras eller avslutas i förtid beroende på verksamhetens behov och prestation
- Konkurrenskraftig timlön
- Bygg erfarenhet av AI-red teaming baserat på mänskligt genererade data
- Bidra till att göra AI-system mer robusta, säkra och tillförlitliga
- Rimliga anpassningar är tillgängliga på begäran
- Tjäna upp till 90 USD för varje framgångsrik rekommendation