51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert (engelska och tamil) – distansavtal
Mercor söker en AI-säkerhetsexpert som talar engelska och tamil för att genomföra red teaming av konversationsmodeller och AI-agenter. Avtalsrollen fokuserar på att identifiera sårbarheter, skapa utvärderingsdata och ta fram reproducerbara säkerhetsrapporter.
Beskrivning
- Genomför adversariella tester av konversationsbaserade AI-modeller och AI-agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer.
- Skapa mänskligt genererade data genom att annotera fel, kategorisera sårbarheter och identifiera systemiska risker.
- Använd etablerade taxonomier, benchmarktester och metodhandböcker för att upprätthålla konsekventa utvärderingar.
- Leverera reproducerbara rapporter, dataset och attackfall till kunder.
- Bedöm AI-utdata som rör känsliga ämnen, inklusive partiskhet, desinformation och skadligt beteende.
- Identifiera svagheter som automatiserade utvärderingsmetoder kan missa.
- Bredda utvärderingstäckningen för att bidra till att minimera oväntade problem i produktion.
- Förbättra kundernas AI-system genom strukturerade adversariella tester.
Krav
- Modersmålsnivå eller flytande kunskaper i engelska och tamil.
- Gott omdöme vid utvärdering av språk och innehåll.
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga samt att förklara bedömningen.
- Stor noggrannhet när det gäller subtila fel, inkonsekvenser och utelämnanden.
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder.
- Förmåga att tydligt kommunicera resonemang till både tekniska och icke-tekniska målgrupper.
- Anpassningsförmåga mellan projekt, uppgiftsformat och kunder.
- Förmåga att arbeta som självständig uppdragstagare.
- H1-B- och STEM OPT-kandidater stöds inte.
- Meriterande: erfarenhet av adversariellt maskininlärande med jailbreak-dataset, promptinjektionsattacker, RLHF- eller DPO-attacker eller modellextraktion.
- Meriterande: erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering.
- Meriterande: erfarenhet av sociotekniska risker som omfattar sondering av trakasserier eller desinformation, missbruksanalys eller testning av konversationsbaserad AI.
- Meriterande: erfarenhet av kreativ sondering inom psykologi, skådespeleri eller skrivande.
Förmåner
- Helt distansbaserat arbete.
- Flexibla arbetstider med möjlighet att själv bestämma dina arbetstider.
- Veckovisa betalningar via Stripe eller Wise.
- Möjlighet att frivilligt delta i projekt med högre känslighetsgrad.
- Tydlig vägledning och resurser för välmående vid arbete med känsligt innehåll.
- Konkurrenskraftig timlön.
- Möjlighet att samarbeta med ledande forskare.
- Hänvisningsersättning på upp till 90 USD per lyckad hänvisning, med förbehåll för tillämpliga begränsningar.
- Skäliga anpassningar erbjuds på begäran.