51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert – engelska och telugu (fjärravtal)
Genomför red team-utvärderingar av konversationsbaserade AI-modeller och agenter för Mercor och identifierar sårbarheter genom adversarial testning. Skapa högkvalitativa dataset, attackfall och tydliga rapporter med fokus på prestanda på engelska och telugu.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter mot jailbreaks, promptinjektion, missbruksscenarier, utnyttjande av bias och manipulation över flera turer
- Skapa människogenererade data genom att märka upp fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd etablerade taxonomier, benchmarktester och playbooks för att säkerställa konsekventa utvärderingar
- Utveckla reproducerbara rapporter, dataset och adversariala attackfall
- Bedöm AI-svar som rör bias, desinformation, skadligt beteende och andra känsliga ämnen
- Identifiera svagheter som automatiserade utvärderingsmetoder kan missa
- Bredda utvärderingstäckningen för att bidra till att förhindra oväntade problem i produktion
- Förbättra kunders AI-system genom strukturerad adversarial testning
Krav
- Modersmålsnivå i både engelska och telugu
- Gott omdöme vid bedömning av språk och innehåll
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga samt att förklara resonemanget
- Exceptionell uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder
- Förmåga att tydligt kommunicera resonemang till tekniska och icke-tekniska målgrupper
- Flexibilitet att arbeta med olika projekt, uppgiftsformat och kunder
- Förmåga att arbeta som självständig uppdragstagare
- Får inte behöva H-1B- eller STEM OPT-sponsring
- Erfarenhet av adversarial maskininlärning, cybersäkerhet, socioteknisk risk eller kreativ sondering är meriterande
Förmåner
- Arbeta helt på distans
- Välj ett flexibelt schema som passar din tillgänglighet
- Få veckovisa betalningar via Stripe eller Wise
- Projektets längd kan ändras eller avslutas i förtid beroende på verksamhetens behov och prestation
- Få tillgång till välmåenderesurser och tydlig vägledning för uppdrag med högre känslighet
- Bygg erfarenhet av AI-red teaming baserat på mänskligt genererade data
- Bidra till att göra AI-system mer robusta, säkra och tillförlitliga
- Få konkurrenskraftig ersättning
- Samarbeta med ledande forskare
- Skäliga anpassningar är tillgängliga på begäran