51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert (engelska och kannada) – distansavtal i USA
Mercor söker en AI-red teaming-specialist med flytande engelska och kannada för att testa banbrytande modeller med avseende på sårbarheter. Arbetet omfattar att skapa reproducerbara attackfall, utvärderingsdataset och riskrapporter för AI-träningsprojekt baserade på mänskliga data.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Skapa annoteringar av mänskliga data genom att dokumentera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd etablerade taxonomier, riktmärken och handlingsplaner för att upprätthålla konsekventa utvärderingar
- Förbered reproducerbara kundrapporter, dataset och attackfall
- Bedöm AI-svar på känsliga ämnen, inklusive partiskhet, desinformation och skadligt beteende
- Undersök AI-system för svagheter som automatiserade tester kan missa
- Bredda utvärderingstäckningen för att bidra till att begränsa oväntade problem i produktion
- Stöd träningen och förbättringen av banbrytande modeller för Mercors AI-labb och företagskunder
Krav
- Flytande kunskaper på modersmålsnivå i både engelska och kannada
- Gott omdöme vid bedömning av om AI-svar är korrekta, fullständiga och lämpliga
- Tydlig kommunikationsförmåga för att förklara resonemang för teknisk och icke-teknisk publik
- Mycket noggrann uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Förmåga att konsekvent tillämpa taxonomier, riktmärken, handlingsplaner, riktlinjer och kvalitetsstandarder
- Flexibilitet att arbeta med olika projekt, uppgiftsformat och kunder
- Förmåga att arbeta som självständig uppdragstagare
- Får inte behöva H-1B- eller STEM OPT-sponsring; dessa sponsringsvägar stöds inte
- Relevant erfarenhet av adversariell maskininlärning, cybersäkerhet, socioteknisk risk, testning av konversationsbaserad AI, psykologi, skådespeleri eller okonventionellt adversariellt skrivande är meriterande
Förmåner
- Arbeta helt på distans med flexibilitet att själv lägga upp arbetstiden
- Få veckovisa betalningar via Stripe eller Wise för utförda tjänster
- Välj om du vill delta i projekt som omfattar innehåll med högre känslighet
- Få tydlig vägledning och stöd för välmående vid uppdrag med känsligt innehåll
- Få konkurrenskraftig ersättning
- Bygg praktisk erfarenhet av AI-red teaming baserat på mänskliga data
- Samarbeta med ledande forskare
- Begär rimliga anpassningar vid behov
- Tjäna hänvisningsersättning på upp till 90 USD för varje framgångsrik hänvisning