51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert innen red teaming (engelsk og punjabi)
Mercor søker en AI-sikkerhetsekspert som snakker engelsk og punjabi, til å gjennomføre red teaming av samtalemodeller og agenter. Kontraktsrollen fokuserer på å avdekke sårbarheter, lage angrepscaser og utarbeide reproduserbare sikkerhetsrapporter for AI-forskningskunder.
Beskrivelse
- Test samtalebaserte AI-modeller og agenter med jailbreaks, promptinjeksjoner, misbruksscenarioer, utnyttelse av skjevheter og flerrundemanipulasjon
- Evaluer modellutdata om sensitive temaer, inkludert skjevheter, feilinformasjon og skadelig atferd
- Dokumenter feil, kategoriser sårbarheter og identifiser systemiske risikoer
- Bruk etablerte taksonomier, referansetester og playbooks for å opprettholde konsekvente evalueringer
- Lag reproduserbare rapporter, datasett og angrepscaser for kunder
- Undersøk AI-systemer for svakheter som automatiserte tester kan overse
- Utvide evalueringsdekningen for å bidra til å begrense uventede problemer i produksjon
- Forbedre kundenes AI-systemer gjennom menneskedrevet, datadrevet red teaming
Krav
- Morsmålsnivå eller flytende engelsk og punjabi
- God dømmekraft ved evaluering av språk og innhold
- Evne til å avgjøre om AI-svar er nøyaktige, fullstendige og passende, og forklare vurderingen
- Svært grundig oppmerksomhet på subtile feil, inkonsekvenser og utelatelser
- Konsekvent overholdelse av testretningslinjer og kvalitetsstandarder
- Evne til å kommunisere resonnement tydelig til både tekniske og ikke-tekniske målgrupper
- Fleksibilitet til å arbeide på tvers av prosjekter, oppgaveformater og kunder
- Mulighet til å arbeide som selvstendig oppdragstaker
- Må ikke kreve H-1B- eller STEM OPT-støtte
- Foretrukket ekspertise kan omfatte adversarial maskinlæring, jailbreak-datasett, promptinjeksjonsangrep, RLHF/DPO-angrep, modelekstraksjon, penetrasjonstesting, exploitutvikling, reverse engineering, sondering etter trakassering eller feilinformasjon, misbruksanalyse, testing av samtalebasert AI, psykologi, skuespill eller skriving
Fordeler
- Arbeid eksternt fra hvor som helst rollen tillater
- Bestem din egen arbeidsplan
- Motta ukentlige betalinger gjennom Stripe eller Wise for leverte tjenester
- Prosjekter kan forlenges, reduseres eller avsluttes tidlig avhengig av virksomhetens behov og prestasjoner
- Få tilgang til trivselsressurser og tydelig veiledning for prosjekter med høyere sensitivitet
- Bygg erfaring med menneskedrevet, datadrevet red teaming av AI
- Bidra til å gjøre AI-systemer mer robuste, sikre og pålitelige
- Konkurransedyktig godtgjørelse
- Samarbeid med ledende AI-forskere