51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsred teamer (engelska och telugu) – distansbaserat uppdrag
Undersök konversationsbaserade AI-modeller och agenter efter säkerhetssårbarheter som red teamer på engelska och telugu. Skapa sårbarhetsdata, reproducerbara attackfall och utvärderingsrapporter för AI-träningsprojekt.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Annotera fel, klassificera sårbarheter och flagga systemiska risker i människogenererade data
- Använd taxonomier, benchmarktester och metodhandböcker för att tillämpa konsekventa testmetoder
- Skapa reproducerbara rapporter, dataset och attackfall
- Utvärdera AI-utdata med avseende på partiskhet, desinformation, skadligt beteende och andra känsliga problem
- Upptäck sårbarheter som automatiserade tester kan missa
- Bredda utvärderingstäckningen och bidra till att minska oväntade problem i produktion
- Samarbeta med projektteam som stöder träning och förbättring av AI-system
Krav
- Modersmålsliknande kunskaper i engelska och telugu
- Gott omdöme vid utvärdering av språk och innehåll
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga
- Förmåga att upptäcka subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder
- Förmåga att tydligt förklara resonemang för tekniska och icke-tekniska målgrupper
- Flexibilitet mellan projekt, uppgiftstyper och kunder
- Möjlighet att arbeta som självständig uppdragstagare
- Inte vara H-1B- eller STEM OPT-kandidat
- Specialisering inom adversariellt maskininlärande, cybersäkerhet, socioteknisk risk eller kreativ sondering är meriterande
Förmåner
- Helt distansbaserat arbete
- Flexibel schemaläggning
- Veckovisa betalningar via Stripe eller Wise
- Konkurrenskraftig timlön
- Friskvårdsresurser och tydlig vägledning för projekt med högre känslighetsnivå
- Skäliga anpassningar finns tillgängliga på begäran
- Hänvisningsersättning på upp till 90 dollar för varje framgångsrik hänvisning