51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
AI-sikkerhetsekspert – engelsk og bengali (fjernkontrakt)
Mercor søker en engelsktalende og bengalisktalende AI-sikkerhetsred teamer for å identifisere sårbarheter i samtalebaserte AI-systemer. Rollen innebærer å lage reproduserbare angrepstilfeller og menneskegenererte data for AI-laboratorier som trener avanserte modeller.
Beskrivelse
- Test samtalebaserte AI-modeller og agenter ved hjelp av jailbreaks, promptinjeksjon, misbruksscenarioer, utnyttelse av bias og manipulasjon over flere samtaler
- Lag menneskegenererte data ved å annotere feil, kategorisere sårbarheter og identifisere systemiske risikoer
- Bruk etablerte taksonomier, referansetester og playbooks for å holde evalueringene konsistente
- Lever reproduserbare rapporter, datasett og angrepstilfeller til kunder
- Vurder AI-svar som omhandler bias, feilinformasjon, skadelig atferd og andre sensitive emner
- Utvide evalueringsdekningen og bidra til sterkere AI-systemer hos kunder
Krav
- Morsmålsnivå eller flytende ferdigheter i både engelsk og bengali
- God dømmekraft ved vurdering av språk og innhold, inkludert evnen til å avgjøre om AI-svar er korrekte, fullstendige og passende, samt forklare vurderingen
- Svært god oppmerksomhet på subtile feil, uoverensstemmelser og utelatelser
- Pålitelig overholdelse av testingsretningslinjer og kvalitetsstandarder
- Tydelig kommunikasjon av resonnement til både tekniske og ikke-tekniske målgrupper
- Villighet til å tilpasse seg ulike prosjekter, oppgaveformater og kunder
- Evne til å arbeide som uavhengig oppdragstaker
- Må ikke ha behov for H-1B- eller STEM OPT-sponsing
- Foretrukket: erfaring med adversarial maskinlæring med jailbreak-datasett, promptinjeksjon, RLHF/DPO-angrep eller modelekstraksjon
- Foretrukket: erfaring med cybersikkerhet innen penetrasjonstesting, exploitutvikling eller reverse engineering
- Foretrukket: erfaring med sosioteknisk risiko innen sondering av trakassering eller desinformasjon, misbruksanalyse eller testing av samtalebasert AI
- Foretrukket: erfaring med psykologi, skuespill eller skriving som støtter ukonvensjonell adversarial tenkning
Fordeler
- Arbeid helt eksternt
- Ha en fleksibel timeplan og arbeid etter egen tilgjengelighet
- Motta ukentlige betalinger via Stripe eller Wise
- Velg om du vil delta i prosjekter med høyere sensitivitetsnivå
- Få tilgang til tydelig veiledning og ressurser for velvære ved oppdrag med sensitivt innhold
- Motta konkurransedyktig kompensasjon
- Bygg erfaring med menneskedatadrevet AI-red teaming
- Samarbeid med ledende AI-forskere
- Tjen henvisningsbetalinger på opptil 90 USD for hver vellykkede henvisning