51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Distansbaserad AI-säkerhetsexpert (engelska och tamil)
Mercor söker en AI-säkerhetskonsult som behärskar engelska och tamil för att stresstesta konversationsmodeller och agenter. Arbetet fokuserar på jailbreak-tester, sårbarhetsanalys, granskning av skadligt beteende och strukturerad produktion av mänskliga data för utveckling av avancerad AI.
Beskrivning
- Testa konversationsmodeller och agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av bias och manipulation i flera steg
- Skapa mänskligt genererade dataset genom att annotera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd etablerade taxonomier, riktmärken och arbetsinstruktioner för att upprätthålla konsekventa utvärderingar
- Utveckla reproducerbara rapporter, dataset och attackfall
- Bedöm AI-utdata som rör känsliga ämnen, inklusive bias, desinformation och skadligt beteende
- Utöka utvärderingstäckningen för att identifiera svagheter som automatiserade tester kan missa
- Stöd Mercors AI-lab och företagskunder i att träna och förbättra avancerade AI-system
Krav
- Modersmålsnivå eller flytande kunskaper i engelska och tamil
- Gott omdöme vid bedömning av språk och innehåll, inklusive om AI-svar är korrekta, fullständiga och lämpliga
- Förmåga att upptäcka subtila fel, inkonsekvenser och utelämnanden
- Konsekvent efterlevnad av riktlinjer, taxonomier, riktmärken, arbetsinstruktioner och kvalitetsstandarder
- Tydlig kommunikation av resonemang till både tekniska och icke-tekniska målgrupper
- Flexibilitet att arbeta med olika projekt, uppgiftsformat och kunder
- Förmåga att arbeta som självständig konsult
- H1-B- och STEM OPT-kandidater kan för närvarande inte få stöd
- Erfarenhet av adversariellt maskininlärande, cybersäkerhet, socioteknisk risk eller kreativ sondering är meriterande
Förmåner
- Arbeta helt på distans
- Välj ett flexibelt schema och arbeta på tider som passar dig
- Få veckovisa betalningar via Stripe eller Wise
- Konkurrenskraftig ersättning
- Tillgång till friskvårdsresurser och tydlig vägledning för projekt med högre känslighet
- Projektets längd kan ändras eller avslutas i förtid beroende på verksamhetens behov och prestation
- Tjäna hänvisningsersättning på upp till 90 USD för varje framgångsrik hänvisning