51 – 200 Ansatte
Mercors tilgjengelige profil inneholder ikke nok verifisert informasjon om selskapets produkter, tjenester, kunder, bransje eller rekrutteringsfokus til å gi en nøyaktig virksomhetsbeskrivelse. Det trengs mer kildemateriale før virksomheten eller mulighetene den tilbyr, kan beskrives.
Red teamer for AI-sikkerhet – fjernarbeidskontrakt i USA
Mercor søker en kontraktsansatt red teamer for AI-sikkerhet som skal utfordre avanserte AI-modeller og avdekke sårbarheter. Rollen fokuserer på høyrisikoområder og bidrar til utviklingen av sikrere og mer pålitelige AI-systemer.
Beskrivelse
- Utarbeide adversarielle prompt som grundig utfordrer avanserte AI-modeller
- Oppdage jailbreaks, utrygg atferd, hallusinasjoner og manglende etterlevelse av sikkerhetspolicyer
- Vurdere modellenes robusthet innen desinformasjon, cybersikkerhet, biosikkerhet, svindel, politisk innhold og andre sensitive områder
- Dokumentere oppdagede svakheter og bidra til sikkerhetsbenchmarks og red-team-rapporter
- Samarbeide med AI-forskere for å fremme modelltilpasning, robusthet og sikkerhet
- Bidra til å beskytte og forbedre nye avanserte AI-systemer
- Bidra til å forme hvordan AI-modeller håndterer krevende sikkerhetsscenarioer i virkelige sammenhenger
Krav
- Bachelorgrad eller høyere innen informatikk, cybersikkerhet, journalistikk, kommunikasjon, psykologi, biologi, kjemi, offentlig politikk eller et beslektet fagområde
- Minst fem års yrkeserfaring innen AI-sikkerhet, red teaming av AI, tillit og sikkerhet, cybersikkerhet, undersøkende journalistikk, biovitenskap eller et beslektet område
- Sterk analytisk dømmekraft, evne til promptutvikling og gode skriftlige kommunikasjonsevner
- Praktisk erfaring med å lage adversarielle prompt eller vurdere avanserte AI-systemer
- Foretrukket: bakgrunn innen red teaming av AI, RLHF, SFT, AI-tilpasning eller tillit og sikkerhet
- Foretrukket: kjennskap til jailbreak-vurderinger, prompt engineering eller metoder for adversariell evaluering
- Foretrukket: ekspertise innen nyanserte områder som cybersikkerhet, biosikkerhet, politisk innhold, desinformasjon eller vitenskapelig sikkerhet
- Tilgjengelighet for å arbeide som selvstendig oppdragstaker
- H-1B- og STEM OPT-kandidater støttes ikke
Fordeler
- Arbeid helt eksternt
- Bestem arbeidstiden din selv, og fullfør oppgaver etter en fleksibel tidsplan
- Motta ukentlige betalinger gjennom Stripe eller Wise
- Prosjektets varighet kan endres eller avsluttes tidligere avhengig av virksomhetens behov og prestasjoner
- Konkurransedyktig kompensasjon
- Arbeid sammen med ledende AI-forskere og sikkerhetsteam
- Rimelig tilrettelegging er tilgjengelig på forespørsel
- Henvisningsprogram med opptil 340 USD for hver vellykkede henvisning, med forbehold om henvisningsbegrensninger