51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert (engelska och telugu) – distansbaserat kontrakt
Genomför red team-utvärderingar av konversationsbaserade AI-modeller och agenter för Mercor, med fokus på säkerhet på engelska och telugu. Skapa sårbarhetsdata, attackfall och reproducerbara rapporter för att stödja säkrare AI-utveckling.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter med jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Dokumentera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd taxonomier, riktmärken och arbetsinstruktioner för att upprätthålla konsekventa utvärderingar
- Skapa reproducerbara rapporter, datamängder och attackfall för kunder
- Bedöm AI-resultat som rör partiskhet, desinformation, skadligt beteende och andra känsliga ämnen
- Bidra till projekt som tränar och förbättrar AI-system
- Identifiera sårbarheter som automatiserade tester inte upptäcker
- Bredda utvärderingstäckningen för att bidra till att minska oväntade problem i produktion
Krav
- Modersmålsnivå eller flytande kunskaper i engelska och telugu
- Gott omdöme vid bedömning av om AI-svar är korrekta, fullständiga och lämpliga
- Förmåga att tydligt kommunicera resonemang till både tekniska och icke-tekniska målgrupper
- Noggrann uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till riktlinjer och kvalitetsstandarder
- Flexibilitet mellan projekt, uppgiftsformat och kunder
- Villighet att arbeta som oberoende uppdragstagare
- Får inte vara H-1B- eller STEM OPT-kandidat; relevanta specialområden kan omfatta adversariellt maskininlärande, jailbreak-datamängder, promptinjektion, RLHF/DPO-attacker, modellextraktion, penetrationstestning, exploatutveckling, reverse engineering, sondering av trakasserier eller desinformation, missbruksanalys, testning av konversationsbaserad AI, psykologi, skådespeleri eller skrivande.
- förmåner
Förmåner
- Arbeta helt på distans enligt ett schema du själv bestämmer
- Få veckovisa betalningar via Stripe eller Wise för utförda tjänster
- Få erfarenhet av människodatadriven red teaming av AI med fokus på banbrytande säkerhet
- Bidra till att göra AI-system mer robusta, säkra och tillförlitliga
- Välj om du vill delta i projekt med högre känslighetsnivå
- Få tillgång till tydlig vägledning och välmåenderesurser för projekt med högre känslighetsnivå
- Begär skäliga anpassningar
- Tjäna upp till 90 dollar för varje framgångsrik rekommendation, utan angiven gräns för antalet rekommendationer