51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.
Red team-specialist i AI-sikkerhed
Mercor søger en red team-specialist i AI-sikkerhed, der skal undersøge svagheder i avancerede AI-modeller inden for højrisikoområder. Arbejdet hjælper AI-laboratorier med at træne og forbedre avancerede systemer.
Beskrivelse
- Udarbejd adversarielle prompts for at teste avancerede AI-modeller.
- Find jailbreaks, usikker adfærd, hallucinationer og brud på politikker.
- Vurder modellernes robusthed inden for misinformation, cybersikkerhed, biosikkerhed, svindel, politisk indhold og andre følsomme områder.
- Dokumentér sårbarheder, og bidrag til sikkerhedsbenchmarks og red teaming-rapporter.
- Samarbejd med AI-forskere om at styrke modellernes alignment, robusthed og sikkerhed.
- Bidrag til projekter, der træner og forbedrer AI-systemer.
Krav
- Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område.
- Mindst fem års erhvervserfaring inden for AI-sikkerhed, red teaming af AI, trust and safety, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område.
- Stærke analytiske evner, evne til at udforme prompts og gode skriftlige kommunikationsevner.
- Erfaring med at udarbejde adversarielle prompts eller vurdere avancerede AI-systemer.
- Skal være bosat i et af de angivne lande: Albanien, Østrig, Belgien, Bulgarien, Bosnien-Hercegovina, Schweiz, Tjekkiet, Tyskland, Danmark, Spanien, Estland, Finland, Frankrig, Storbritannien, Grækenland, Kroatien, Ungarn, Irland, Island, Italien, Liechtenstein, Litauen, Luxembourg, Letland, Monaco, Moldova, Nordmakedonien, Malta, Nederlandene, Norge, Polen, Portugal, Rumænien, San Marino, Serbien, Slovakiet, Slovenien, Sverige, USA eller Kosovo.
- Kandidater med H-1B eller STEM OPT kan ikke få støtte på nuværende tidspunkt.
Fordele
- Fuldt fjernarbejde med fleksibel arbejdstid.
- Ugentlige betalinger via Stripe eller Wise for udført arbejde.
- Projektets varighed kan forlænges, forkortes eller afsluttes før tid afhængigt af projektbehov og arbejdsindsats.
- Konkurrencedygtig løn.
- Mulighed for at arbejde sammen med førende AI-forskere og sikkerhedsteams.
- Rimelige tilpasninger tilbydes efter anmodning.
- Henvisningsprogram med op til 340 USD pr. vellykket henvisning, underlagt begrænsninger.