51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert inom red teaming (engelska och telugu) – distansavtal
Testa konversationsbaserade AI-modeller för jailbreaks, promptinjektioner, missbruk, partiskhet och andra säkerhetsbrister. Dokumentera reproducerbara sårbarheter och utvärderingsdata för AI-forskningskunder.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter offensivt för jailbreaks, promptinjektioner, missbruk, utnyttjande av partiskhet och manipulation över flera turer
- Annotera testfel, kategorisera sårbarheter och identifiera systemiska risker
- Tillämpa etablerade taxonomier, riktmärken och arbetsmetoder för konsekventa utvärderingar
- Skapa reproducerbara rapporter, datamängder och attackscenarier för kunder
- Bedöm AI-svar på känsliga ämnen, inklusive partiskhet, desinformation och skadligt beteende
- Hitta svagheter som automatiserade utvärderingsmetoder inte upptäcker
- Bredda utvärderingstäckningen för att bidra till att förebygga oväntade produktionsproblem
- Förbättra kundernas AI-system genom återkommande offensiv testning
Krav
- Modersmålsnivå i både engelska och telugu
- Gott omdöme vid bedömning av språk och innehåll med avseende på korrekthet, fullständighet och lämplighet
- Förmåga att tydligt förklara resonemang för tekniska och icke-tekniska målgrupper
- Noggrann uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Förmåga att konsekvent följa riktlinjer och kvalitetsstandarder
- Flexibilitet mellan projekt, uppgiftsformat och kunder
- Arbete som självständig uppdragstagare
- Förmåga att arbeta utan att använda konfidentiell eller företagsintern information från någon arbetsgivare, kund eller institution
- H-1B- och STEM OPT-kandidater stöds inte
Förmåner
- Helt distansbaserat arbete som kan utföras enligt ett självstyrt schema
- Veckovisa betalningar via Stripe eller Wise för utförda tjänster
- Möjlighet att delta i projekt som omfattar känsligare ämnesområden
- Riktlinjer och resurser för välmående vid arbete med känsligt innehåll
- Erfarenhet av att bygga expertis inom AI-red teaming baserat på mänskliga data
- Möjlighet att bidra till att göra AI-system säkrare, robustare och mer tillförlitliga
- Möjligheter till samarbete med ledande forskare
- Hänvisningsersättning på upp till 90 USD per godkänd hänvisning, med förbehåll för tillämpliga begränsningar