51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
AI-sikkerhedsekspert (engelsk og tamil) – fjernkontrakt
Mercor søger en AI-sikkerhedsekspert, der taler engelsk og tamil, til at udføre red teaming af konversationsmodeller og AI-agenter. Kontraktrollen fokuserer på at identificere sårbarheder, generere evalueringsdata og udarbejde reproducerbare sikkerhedsrapporter.
Beskrivelse
- Udfør adversarielle tests af konversationsbaserede AI-modeller og AI-agenter ved hjælp af jailbreaks, promptinjektioner, misbrugsscenarier, udnyttelse af bias og manipulation over flere samtalerunder.
- Skab menneskegenererede data ved at annotere fejl, kategorisere sårbarheder og identificere systemiske risici.
- Brug etablerede taksonomier, benchmarktests og playbooks for at sikre ensartede evalueringer.
- Lever reproducerbare rapporter, datasæt og angrebseksempler til kunder.
- Vurder AI-output om følsomme emner, herunder bias, misinformation og skadelig adfærd.
- Identificer svagheder, som automatiserede evalueringsmetoder kan overse.
- Udvid evalueringsdækningen for at bidrage til at minimere uventede problemer i produktionen.
- Forbedr kundernes AI-systemer gennem struktureret adversarial testning.
Krav
- Modersmålsniveau eller flydende engelske og tamilske sprogfærdigheder.
- God dømmekraft ved evaluering af sprog og indhold.
- Evne til at afgøre, om AI-svar er korrekte, fyldestgørende og passende, samt forklare vurderingen.
- Stor opmærksomhed på subtile fejl, uoverensstemmelser og udeladelser.
- Konsekvent overholdelse af retningslinjer og kvalitetsstandarder.
- Evne til at kommunikere ræsonnement tydeligt til både tekniske og ikke-tekniske målgrupper.
- Tilpasningsevne på tværs af projekter, opgaveformater og kunder.
- Evne til at arbejde som selvstændig kontrahent.
- H1-B- og STEM OPT-kandidater understøttes ikke.
- Foretrukket: erfaring med adversarial machine learning med jailbreak-datasæt, promptinjektionsangreb, RLHF- eller DPO-angreb eller modelekstraktion.
- Foretrukket: erfaring med cybersikkerhed inden for penetrationstest, exploitudvikling eller reverse engineering.
- Foretrukket: erfaring med sociotekniske risici, herunder sondering af chikane eller desinformation, misbrugsanalyse eller test af konversationsbaseret AI.
- Foretrukket: erfaring med kreativ sondering inden for psykologi, skuespil eller skrivning.
Fordele
- Fuldt fjernarbejde.
- Fleksibel arbejdstid med mulighed for selv at fastsætte dine arbejdstimer.
- Ugentlige betalinger via Stripe eller Wise.
- Mulighed for frivillig deltagelse i projekter med højere følsomhed.
- Tydelig vejledning og trivselsressourcer til arbejde med følsomt indhold.
- Konkurrencedygtig timeløn.
- Mulighed for at samarbejde med førende forskere.
- Henvisningsbetalinger på op til 90 USD pr. vellykket henvisning, underlagt gældende begrænsninger.
- Rimelige tilpasninger er tilgængelige efter anmodning.