51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
Fjärrbaserad AI-säkerhetsexpert (engelska och marathi) hos Mercor
Testa konversationsbaserade AI-modeller för sårbarheter genom red teaming på engelska och marathi. Skapa reproducerbara dataset, attackfall och rapporter för AI-säkerhetsprojekt baserade på mänskliga data.
Beskrivning
- Genomför red teaming av konversationsbaserade AI-modeller och agenter med hjälp av jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation över flera turer
- Skapa mänskliga data genom att annotera fel, kategorisera sårbarheter och identifiera systemiska risker
- Använd taxonomier, benchmarktester och handlingsplaner för konsekventa utvärderingar
- Utveckla reproducerbara rapporter, dataset och attackfall för kunder
- Bedöm AI-utdata som rör känsliga ämnen, inklusive partiskhet, desinformation och skadligt beteende
- Identifiera svagheter som automatiserade tester kan missa
- Bredda utvärderingstäckningen för att bidra till att förhindra oväntade problem i produktion
- Stöd kunder i att förbättra säkerheten, robustheten och tillförlitligheten hos deras AI-system
Krav
- Flytande eller inhemska kunskaper i engelska och marathi krävs
- Gott omdöme kring språk och innehåll, inklusive förmågan att bedöma om AI-svar är korrekta, fullständiga och lämpliga samt att förklara resonemanget
- Exceptionell uppmärksamhet på subtila fel, inkonsekvenser och utelämnanden
- Konsekvent följsamhet till etablerade riktlinjer och kvalitetsstandarder
- Tydlig kommunikation av resonemang till både tekniska och icke-tekniska målgrupper
- Förmåga att anpassa sig till olika projekt, uppgiftsformat och kunder
- Måste arbeta som oberoende uppdragstagare
- H1-B- och STEM OPT-kandidater stöds inte
- Meriterande: erfarenhet av adversariellt maskininlärande med jailbreak-dataset, promptinjektioner, RLHF- eller DPO-attacker eller modellextraktion
- Meriterande: erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering
- Meriterande: erfarenhet av sociotekniska risker med fokus på att undersöka trakasserier eller desinformation, analysera missbruk eller testa konversationsbaserad AI
- Meriterande: erfarenhet av psykologi, skådespeleri eller skrivande som främjar okonventionellt adversariellt tänkande
Förmåner
- Helt distansbaserat arbete
- Flexibla arbetstider med möjlighet att välja dina arbetstimmar
- Veckovisa betalningar via Stripe eller Wise baserat på utförda tjänster
- Projektets längd kan förlängas, förkortas eller avslutas i förtid beroende på verksamhetens behov och prestation
- Wellnessresurser och tydlig vägledning för projekt som omfattar innehåll med högre känslighet
- Rimliga anpassningar är tillgängliga på begäran
- Remissprogram som erbjuder upp till 90 USD för varje framgångsrik remiss, utan begränsning av antalet remisser
- Möjlighet att samarbeta med ledande forskare
- Erfarenhet av att genomföra AI-red teaming baserat på mänskliga data i framkant av AI-säkerhet