51 – 200 Anställda
Mercors tillgängliga profil innehåller inte tillräckligt med verifierad information om företagets produkter, tjänster, kunder, bransch eller rekryteringsfokus för att möjliggöra en korrekt företagsöversikt. Mer källmaterial behövs innan verksamheten eller dess möjligheter kan beskrivas.
AI-säkerhetsexpert – engelska och marathi (distansbaserat kontrakt)
Mercor söker en AI-säkerhetsexpert som behärskar engelska och marathi för att stresstesta konversationsbaserade AI-system. Avtalsrollen fokuserar på adversarial testning, sårbarhetsanalys och tydlig rapportering för projekt inom mänskliga data och banbrytande AI.
Beskrivning
- Testa konversationsbaserade AI-modeller och agenter mot jailbreaks, promptinjektioner, missbruksscenarier, utnyttjande av partiskhet och manipulation i flera steg
- Skapa datamaterial från människor genom att annotera fel, kategorisera sårbarheter och identifiera systemrisker
- Använd etablerade taxonomier, riktmärken och testprotokoll för att säkerställa konsekventa utvärderingar
- Leverera reproducerbara attackfall, dataset och kundinriktade rapporter
- Bedöm AI-svar i känsliga ämnen, inklusive partiskhet, desinformation och skadligt beteende
- Hitta svagheter som automatiserade utvärderingsmetoder kan missa
- Bredda testtäckningen för att bidra till att förebygga oväntade problem i produktion
- Stöd kunder i att förbättra säkerheten, robustheten och tillförlitligheten hos deras AI-system
- Samarbeta med ledande forskare i initiativ som tränar och vidareutvecklar banbrytande AI-modeller
Krav
- Modersmålsnivå eller flytande kunskaper i engelska och marathi
- Gott omdöme vid utvärdering av språk och innehåll
- Förmåga att avgöra om AI-svar är korrekta, fullständiga och lämpliga, med tydliga förklaringar
- Noggrann uppmärksamhet på nyanserade fel, inkonsekvenser och utelämnanden
- Pålitlig efterlevnad av testningsriktlinjer och kvalitetskrav
- Tydlig kommunikation av resonemang till både tekniska och icke-tekniska målgrupper
- Flexibilitet att arbeta med olika projekt, uppgifter och kunder
- Förmåga att arbeta som självständig uppdragstagare
- Får inte behöva H-1B- eller STEM OPT-sponsring
- Meriterande: erfarenhet av adversarial maskininlärning med jailbreak-dataset, promptinjektioner, RLHF/DPO-attacker eller modellextraktion
- Meriterande: erfarenhet av cybersäkerhet inom penetrationstestning, exploitutveckling eller reverse engineering
- Meriterande: erfarenhet av socioteknisk risk, inklusive sondering av trakasserier eller desinformation, missbruksanalys eller testning av konversationsbaserad AI
- Meriterande: erfarenhet av psykologi, skådespeleri eller skrivande som stödjer okonventionellt adversarialt tänkande
Förmåner
- Helt distansbaserat kontraktsarbete
- Flexibelt schema med möjlighet att själv bestämma arbetstider
- Veckovisa betalningar via Stripe eller Wise
- Projektets längd kan ändras eller avslutas i förtid beroende på verksamhetens behov och prestation
- Frivilligt deltagande i projekt som omfattar innehåll med högre känslighet
- Tydlig vägledning och stöd för välbefinnande vid uppdrag med känsligt innehåll
- Rimliga anpassningar kan erbjudas på begäran
- Hänvisningsersättning på upp till 90 USD för varje framgångsrik hänvisning