51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert – engelska och bengali (fjärrkontrakt)
Mercor söker en engelsktalande och bengalisktalande AI-säkerhetstestare för red teaming som identifierar sårbarheter i konversationsbaserade AI-system. Rollen innebär att ta fram reproducerbara attackfall och människogenererade data för AI-laboratorier som tränar avancerade modeller.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Skapa människogenererade data genom att annotera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd etablerade taxonomier, riktmärken och handlingsplaner för att hålla utvärderingarna konsekventa
- Leverera reproducerbara rapporter, dataset och attackfall till kunder
- Bedöm AI-svar som rör partiskhet, desinformation, skadligt beteende och andra känsliga ämnen
- Bredda utvärderingens täckning och bidra till starkare AI-system hos kunder
Krav
- Modersmålsnivå eller flytande kunskaper i både engelska och bengali
- Gott omdöme vid utvärdering av språk och innehåll, inklusive förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga samt förklara bedömningen
- Stor uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Pålitlig följsamhet till testningsriktlinjer och kvalitetsstandarder
- Tydlig kommunikation av resonemang till både tekniska och icke-tekniska målgrupper
- Vilja att anpassa sig till olika projekt, uppgiftsformat och kunder
- Förmåga att arbeta som oberoende uppdragstagare
- Får inte behöva H-1B- eller STEM OPT-sponsring
- Meriterande: erfarenhet av adversariell maskininlärning med jailbreak-dataset, promptinjektion, RLHF/DPO-attacker eller modellextraktion
- Meriterande: erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering
- Meriterande: erfarenhet av sociotekniska risker inom sondering av trakasserier eller desinformation, missbruksanalys eller testning av konversationsbaserad AI
- Meriterande: erfarenhet av psykologi, skådespeleri eller skrivande som främjar okonventionellt adversariellt tänkande
Förmåner
- Arbeta helt på distans
- Ha ett flexibelt schema och arbeta utifrån din egen tillgänglighet
- Få veckovisa betalningar via Stripe eller Wise
- Välj om du vill delta i projekt med högre känslighetsnivå
- Få tillgång till tydlig vägledning och resurser för välmående vid uppdrag med känsligt innehåll
- Få konkurrenskraftig ersättning
- Bygg erfarenhet av människodatadriven AI-red teaming
- Samarbeta med ledande AI-forskare
- Få hänvisningsersättning på upp till 90 USD för varje framgångsrik hänvisning