51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Fjärrbaserad AI-säkerhetsexpert (engelska och gujarati) – kontrakt
Mercor söker en AI-säkerhetsexpert på kontraktsbasis som behärskar engelska och gujarati för att genomföra red teaming av avancerade AI-modeller. Arbetet omfattar att testa sårbarheter, utvärdera fel och skapa reproducerbara dataset och attackfall.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter för jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Skapa människogenererad data genom att annotera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd etablerade taxonomier, benchmarktest och handlingsplaner för att genomföra konsekventa utvärderingar
- Ta fram reproducerbara kundrapporter, dataset och attackfall
- Bedöm AI-utdata med avseende på känsliga frågor, inklusive partiskhet, desinformation och skadligt beteende
- Hitta svagheter som automatiserade tester inte upptäcker
- Bredda utvärderingstäckningen för att bidra till att förhindra oväntade problem i produktion
- Bidra till projekt som tränar och förbättrar avancerade AI-system
Krav
- Modersmålsnivå eller flytande kunskaper i engelska och gujarati
- Gott omdöme vid utvärdering av språk och innehåll med avseende på korrekthet, fullständighet och lämplighet
- Förmåga att upptäcka nyanserade fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till etablerade riktlinjer och kvalitetsstandarder
- Tydlig kommunikation av resonemang till både tekniska och icke-tekniska målgrupper
- Flexibilitet mellan projekt, uppgiftsformat och kundbehov
- Arbete som självständig uppdragstagare
- Kandidater med H-1B och STEM OPT är inte behöriga
- Meriterande: erfarenhet av adversariellt maskininlärande med jailbreak-dataset, promptinjektioner, RLHF/DPO-attacker eller modellextraktion
- Meriterande: erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering
- Meriterande: erfarenhet av socioteknisk risk, inklusive sondering av trakasserier eller desinformation, missbruksanalys eller testning av konversationsbaserad AI
- Meriterande: erfarenhet av psykologi, skådespeleri eller skrivande som främjar okonventionellt adversariellt tänkande
Förmåner
- Arbeta på distans från USA
- Välj ett flexibelt schema som passar din tillgänglighet
- Få veckovisa betalningar via Stripe eller Wise
- Välj om du vill delta i projekt med högre känslighetsnivå eller avstå
- Få tillgång till tydlig vägledning och resurser för välmående vid uppdrag med känsligt innehåll
- Konkurrenskraftig timlön
- Rimliga anpassningar finns tillgängliga på begäran
- Möjlighet att tjäna upp till 90 USD per framgångsrik rekommendation, med förbehåll för tillämpliga begränsningar