51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
AI-sikkerhedsekspert (engelsk og telugu) – fjernkontrakt
Gennemfør red team-evalueringer af konversationsbaserede AI-modeller og agenter for Mercor med fokus på sikkerhed på engelsk og telugu. Skab sårbarhedsdata, angrebs cases og reproducerbare rapporter for at understøtte sikrere AI-udvikling.
Beskrivelse
- Test konversationsbaserede AI-modeller og agenter med jailbreaks, promptinjektioner, misbrugsscenarier, udnyttelse af bias og manipulation over flere samtalerunder
- Annotér fejl, kategorisér sårbarheder og identificér systemiske risici
- Brug taksonomier, benchmarks og playbooks til at sikre ensartede evalueringer
- Udarbejd reproducerbare rapporter, datasæt og angrebscases for kunder
- Vurdér AI-output, der omhandler bias, misinformation, skadelig adfærd og andre følsomme emner
- Bidrag til projekter, der træner og forbedrer AI-systemer
- Identificér sårbarheder, som automatiseret test ikke opdager
- Udvid evalueringsdækningen for at bidrage til at reducere uventede problemer i produktion
Krav
- Modersmålsniveau eller flydende engelske og telugu-kundskaber
- God dømmekraft ved vurdering af, om AI-svar er korrekte, fyldestgørende og passende
- Evne til at kommunikere ræsonnement klart til både tekniske og ikke-tekniske målgrupper
- Omhyggelig opmærksomhed på subtile fejl, uoverensstemmelser og udeladelser
- Konsekvent overholdelse af retningslinjer og kvalitetsstandarder
- Fleksibilitet på tværs af projekter, opgaveformater og kunder
- Villighed til at arbejde som selvstændig kontrahent
- Må ikke være H-1B- eller STEM OPT-kandidat; relevante specialer kan omfatte adversarial machine learning, jailbreak-datasæt, promptinjektion, RLHF/DPO-angreb, modeludtræk, penetrationstest, exploit-udvikling, reverse engineering, sondering efter chikane eller desinformation, misbrugsanalyse, test af konversationsbaseret AI, psykologi, skuespil eller skrivning.
- fordele
Fordele
- Arbejd fuldt ud på afstand efter et skema, du selv fastlægger
- Modtag ugentlige betalinger via Stripe eller Wise for leverede tjenester
- Opnå erfaring med menneskedatadrevet red teaming af AI med fokus på banebrydende sikkerhed
- Hjælp med at gøre AI-systemer mere robuste, sikre og pålidelige
- Vælg, om du vil deltage i projekter med højere følsomhed
- Få adgang til tydelig vejledning og trivselsressourcer til projekter med højere følsomhed
- Anmod om rimelige tilpasninger
- Tjen op til 90 USD for hver vellykket henvisning uden angivet grænse for antallet af henvisninger