51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
AI-sikkerhedsekspert – engelsk og bengali (fjernkontrakt)
Mercor søger en engelsktalende og bengalitalende AI-sikkerhedsred teamer til at identificere sårbarheder i konversationsbaserede AI-systemer. Rollen indebærer at udvikle reproducerbare angrebseksempler og menneskeskabte data til AI-laboratorier, der træner avancerede modeller.
Beskrivelse
- Test konversationsbaserede AI-modeller og agenter ved hjælp af jailbreaks, promptinjektion, misbrugsscenarier, udnyttelse af bias og manipulation over flere interaktioner
- Skab menneskeskabte data ved at annotere fejl, kategorisere sårbarheder og identificere systemiske risici
- Brug etablerede taksonomier, benchmarks og playbooks for at holde evalueringerne ensartede
- Lever reproducerbare rapporter, datasæt og angrebseksempler til kunder
- Vurder AI-svar, der omhandler bias, misinformation, skadelig adfærd og andre følsomme emner
- Udvid evalueringsdækningen og bidrag til stærkere AI-systemer hos kunder
Krav
- Modersmålsniveau eller flydende kundskaber i både engelsk og bengali
- God dømmekraft ved vurdering af sprog og indhold, herunder evnen til at afgøre, om AI-svar er korrekte, fuldstændige og passende, samt forklare vurderingen
- Stor opmærksomhed på subtile fejl, uoverensstemmelser og udeladelser
- Pålidelig overholdelse af testretningslinjer og kvalitetsstandarder
- Klar kommunikation af ræsonnement til både tekniske og ikke-tekniske målgrupper
- Villighed til at tilpasse sig forskellige projekter, opgaveformater og kunder
- Evne til at arbejde som selvstændig kontrahent
- Må ikke have behov for H-1B- eller STEM OPT-sponsorering
- Foretrukket: erfaring med adversarial machine learning med jailbreak-datasæt, promptinjektion, RLHF/DPO-angreb eller modeludtræk
- Foretrukket: erfaring med cybersikkerhed inden for penetrationstest, exploitudvikling eller reverse engineering
- Foretrukket: erfaring med sociotekniske risici inden for sondering af chikane eller desinformation, misbrugsanalyse eller test af konversationsbaseret AI
- Foretrukket: erfaring med psykologi, skuespil eller skrivning, der understøtter ukonventionel adversarial tænkning
Fordele
- Arbejd helt på afstand
- Få en fleksibel tidsplan og arbejd efter din egen tilgængelighed
- Modtag ugentlige betalinger via Stripe eller Wise
- Vælg, om du vil deltage i projekter med højere følsomhed
- Få adgang til tydelig vejledning og trivselsressourcer til opgaver med følsomt indhold
- Modtag konkurrencedygtig kompensation
- Opbyg erfaring med menneskedatadrevet AI-red teaming
- Samarbejd med førende AI-forskere
- Tjen henvisningsbetalinger på op til 90 USD for hver vellykket henvisning