51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Fjärrbaserad AI-säkerhetsexpert (engelska och tamil)
Mercor söker en AI-säkerhetsexpert som talar engelska och tamil för att red-teama konversationsmodeller och agenter. Avtalsrollen fokuserar på att identifiera sårbarheter, utvärdera känsliga svar och skapa reproducerbara säkerhetsdata för träning av avancerad AI.
Beskrivning
- Red-teama konversationsbaserade AI-modeller och agenter genom jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Märk fel, kategorisera sårbarheter och identifiera systemiska risker
- Tillämpa etablerade taxonomier, riktmärken och testmetoder konsekvent
- Skapa reproducerbara rapporter, dataset och attackfall
- Utvärdera AI-utdata som rör partiskhet, desinformation, skadligt beteende och andra känsliga ämnen
- Bredda utvärderingens täckning genom att hitta svagheter som automatiserade tester kan missa
- Samarbeta med projektteam som utvecklar och förbättrar avancerade AI-system
Krav
- Modersmålsnivå eller flytande kunskaper i både engelska och tamil
- Gott omdöme vid utvärdering av språk och innehåll
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga
- Skarp uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder
- Förmåga att tydligt kommunicera resonemang till tekniska och icke-tekniska målgrupper
- Flexibilitet mellan projekt, uppgiftsformat och kunder
- Tillgänglig för arbete som självständig uppdragstagare
- Får inte behöva H-1B- eller STEM OPT-sponsring
- Erfarenhet av adversariellt maskininlärande, cybersäkerhet, sociotekniska risker eller kreativ sondering är meriterande
Förmåner
- Arbeta helt på distans
- Bestäm ett flexibelt arbetsschema
- Få veckovisa utbetalningar via Stripe eller Wise
- Konkurrenskraftig ersättning
- Få erfarenhet av AI-red teaming baserat på mänskliga data
- Bidra till att göra AI-system mer robusta, säkra och tillförlitliga
- Samarbeta med ledande forskare
- Rimliga anpassningar finns tillgängliga på begäran
- Få hänvisningsersättning på upp till 90 USD för varje framgångsrik hänvisning