51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Fjärrbaserad AI-säkerhetsexpert (engelska och odia) – kontrakt
Mercor söker en AI-säkerhetsexpert med flytande kunskaper i engelska och odia för att genomföra red teaming av konversationsbaserade AI-modeller för träning av banbrytande modeller. Arbetet omfattar att skapa sårbarhetsannoteringar, attackfall, dataset och reproducerbara säkerhetsrapporter.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av bias och manipulation i flera turer.
- Dokumentera fel, kategorisera sårbarheter och identifiera systemiska risker.
- Använd etablerade taxonomier, benchmarktester och handlingsplaner för att hålla utvärderingarna konsekventa.
- Skapa reproducerbara säkerhetsrapporter, dataset och attackfall.
- Undersök modellutdata med avseende på bias, desinformation och skadligt beteende.
- Stöd träningen och förbättringen av banbrytande AI-system för Mercors AI-labb och företagskunder.
Krav
- Kunskaper i engelska och odia på modersmålsnivå.
- Gott omdöme vid utvärdering av språk och innehåll.
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga samt att förklara resonemanget.
- Stor noggrannhet när det gäller subtila fel, inkonsekvenser och utelämnanden.
- Förmåga att på ett tillförlitligt sätt följa riktlinjer och kvalitetsstandarder.
- Förmåga att tydligt kommunicera resonemang till både tekniska och icke-tekniska målgrupper.
- Flexibilitet att arbeta med olika projekt, uppgiftsformat och kunder.
- Villighet att arbeta som självständig uppdragstagare.
- Sökande får inte vara H-1B- eller STEM OPT-kandidater.
- Erfarenhet av eller specialisering inom adversariellt maskininlärande, cybersäkerhet, socioteknisk risk eller kreativ sondering är meriterande.
Förmåner
- Helt distansbaserat arbete.
- Flexibla arbetstider.
- Möjlighet att frivilligt delta i projekt med högre känslighetsnivå.
- Riktlinjer och resurser för välmående för projekt som omfattar känsligt innehåll.
- Veckovisa utbetalningar via Stripe eller Wise.
- Konkurrenskraftig ersättning.
- Möjlighet att samarbeta med ledande forskare.
- Hänvisningsersättning på upp till 90 USD för varje framgångsrik rekommendation.