51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert inom red teaming (engelska och punjabi)
Mercor söker en AI-säkerhetsexpert som talar engelska och punjabi för att genomföra red teaming av konversationsmodeller och agenter. Avtalsrollen fokuserar på att upptäcka sårbarheter, skapa attackfall och ta fram reproducerbara säkerhetsrapporter för AI-forskningskunder.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation i flera turer
- Utvärdera modellutdata i känsliga ämnen, inklusive partiskhet, felaktig information och skadligt beteende
- Dokumentera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd etablerade taxonomier, benchmarktester och arbetsmetoder för att upprätthålla konsekventa utvärderingar
- Skapa reproducerbara rapporter, dataset och attackfall för kunder
- Undersök AI-system efter svagheter som automatiserade tester kan missa
- Bredda utvärderingstäckningen för att bidra till att begränsa oväntade problem i produktion
- Förbättra kundernas AI-system genom människodriven, datadriven red teaming
Krav
- Modersmålsnivå eller flytande kunskaper i engelska och punjabi
- Gott omdöme vid utvärdering av språk och innehåll
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga samt att förklara bedömningen
- Noggrann uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till testanvisningar och kvalitetsstandarder
- Förmåga att tydligt kommunicera resonemang till både tekniska och icke-tekniska målgrupper
- Flexibilitet att arbeta med olika projekt, uppgiftsformat och kunder
- Möjlighet att arbeta som självständig uppdragstagare
- Får inte kräva stöd för H-1B eller STEM OPT
- Meriterande expertis kan omfatta adversariellt maskininlärande, jailbreak-dataset, promptinjektionsattacker, RLHF/DPO-attacker, modellextraktion, penetrationstestning, exploitutveckling, reverse engineering, sondering av trakasserier eller desinformation, missbruksanalys, testning av konversationsbaserad AI, psykologi, skådespeleri eller skrivande
Förmåner
- Arbeta på distans från valfri plats som rollen tillåter
- Bestäm själv ditt arbetsschema
- Få veckovisa betalningar via Stripe eller Wise för utförda tjänster
- Projekt kan förlängas, minskas eller avslutas i förtid beroende på verksamhetens behov och prestation
- Få tillgång till välmåenderesurser och tydlig vägledning för projekt med högre känslighet
- Bygg erfarenhet av människodata-drivet red teaming av AI
- Bidra till att göra AI-system mer robusta, säkra och tillförlitliga
- Konkurrenskraftig ersättning
- Samarbeta med ledande AI-forskare