51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert (engelska och gujarati) – distansuppdrag
Genomför red team-utvärderingar av konversationsbaserade AI-modeller och agenter för Mercor, en AI-labpartner med fokus på träning av banbrytande system. Skapa sårbarhetsdata, attackscenarier och reproducerbara säkerhetsrapporter.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Skapa människomärkt data genom att annotera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd etablerade taxonomier, riktmärken och arbetsmetoder för att säkerställa konsekventa utvärderingar
- Utveckla reproducerbara rapporter, dataset och attackscenarier
- Bedöm AI-svar som rör partiskhet, desinformation, skadligt beteende och andra känsliga ämnen
- Identifiera svagheter som automatiserade tester kan missa
- Bredda utvärderingstäckningen för att bidra till att begränsa oväntade problem i produktion
- Förbättra kunders AI-system med tydliga och reproducerbara utvärderingsunderlag
Krav
- Modersmålsnivå eller flytande kunskaper i engelska och gujarati
- Gott omdöme vid bedömning av språk och innehåll
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga samt att förklara bedömningen
- Noggrann uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetskrav
- Förmåga att tydligt kommunicera resonemang till tekniska och icke-tekniska målgrupper
- Flexibilitet mellan projekt, uppgiftsformat och kunder
- Meriterande med erfarenhet av adversariell maskininlärning, cybersäkerhet, socioteknisk risk eller kreativ sondering
- Tillgänglighet för arbete som självständig uppdragstagare
- H-1B- och STEM OPT-kandidater stöds inte
Förmåner
- Arbeta helt på distans
- Välj ditt eget arbetsschema
- Få veckovisa betalningar via Stripe eller Wise
- Konkurrenskraftig timlön
- Möjlighet att delta i projekt som omfattar innehåll med högre känslighet
- Tillgång till tydlig vägledning och stöd för välbefinnande vid arbete med känsligt innehåll
- Skäliga anpassningar erbjuds på begäran
- Tjäna hänvisningsersättning på upp till 90 USD för varje framgångsrik hänvisning