Mercor
Mercor
51 – 200 Medarbejdere
Mercors tilgængelige profil indeholder ikke tilstrækkelige verificerede oplysninger om virksomhedens produkter, tjenester, kunder, branche eller rekrutteringsfokus til at understøtte en nøjagtig virksomhedsbeskrivelse. Der er brug for mere kildemateriale, før virksomheden eller dens muligheder kan beskrives.

Red teamer inden for AI-sikkerhed

Red team avancerede AI-systemer for Mercors partnerlaboratorier ved at afdække sårbarheder og vurdere højrisikoadfærd i modeller. Udform adversarielle prompts, og hjælp med at dokumentere sikkerhedsresultater.

Beskrivelse

  • Udform adversarielle prompts for at stressteste avancerede AI-modeller.
  • Find jailbreaks, usikre svar, hallucinationer og manglende overholdelse af politikker.
  • Vurder modellernes modstandsdygtighed over for misinformation, cybersikkerhed, biosikkerhed, svindel, politisk indhold og andre følsomme områder.
  • Dokumentér sårbarheder, og hjælp med at udarbejde sikkerhedsbenchmarks og red team-rapporter.
  • Samarbejd med AI-forskere om at styrke modellernes tilpasning, modstandsdygtighed og sikkerhed.
  • Gennemfør projekter for Mercors partnerlaboratorier inden for AI og virksomheder, der træner og forbedrer AI-systemer.

Krav

  • Bachelorgrad eller højere inden for datalogi, cybersikkerhed, journalistik, kommunikation, psykologi, biologi, kemi, offentlig politik eller et beslægtet område.
  • Mindst fem års erhvervserfaring inden for AI-sikkerhed, red teaming af AI, tillid og sikkerhed, cybersikkerhed, undersøgende journalistik, biovidenskab eller et beslægtet område.
  • Stærke analytiske evner samt færdigheder inden for promptdesign og skriftlig kommunikation.
  • Erfaring med at skabe adversarielle prompts eller evaluere avancerede AI-systemer.
  • Erfaring med red teaming af AI, RLHF, supervised fine-tuning, AI-alignment eller tillid og sikkerhed er en fordel.
  • Kendskab til jailbreak-test, prompt engineering eller adversarielle evalueringsmetoder er en fordel.
  • Ekspertise inden for nuancerede områder som cybersikkerhed, biosikkerhed, politisk indhold, misinformation eller videnskabelig sikkerhed er en fordel.
  • Du skal være berettiget til at arbejde på en af de angivne lokationer.
  • Mercor kan på nuværende tidspunkt ikke støtte H-1B- eller STEM OPT-kandidater.

Fordele

  • Arbejd helt på afstand.
  • Få en fleksibel arbejdstid, og udfør arbejdet efter din egen tidsplan.
  • Modtag ugentlige betalinger via Stripe eller Wise.
  • Projekter kan blive forlænget, forkortet eller afsluttet før tid afhængigt af projektbehov og præstation.
  • Konkurrencedygtig løn.
  • Samarbejd med førende AI-forskere og sikkerhedsteams.
  • Bidrag til sikkerheden og udviklingen af avanceret AI.
  • Tjen op til 340 USD for hver vellykket henvisning, med forbehold for henvisningsgrænser.
  • Rimelige tilpasninger tilbydes efter anmodning.

Relaterede job

General Dynamics Information Technology

Ledende integrator af autonome AI-systemer

General Dynamics Information Technology

Stå i spidsen for integrationen af autonome AI-systemer på tværs af ubemandede fly, køretøjssværme, edge-platforme og kommando- og kontrolmiljøer. Hos General Dynamics Information Technology forbinder du missionsforløb med robust autonomi, AI/ML-modeller og taktiske systemer.

Åbn
CMG (Capital Markets Gateway)

Senior frontendudvikler og produktansvarlig for analyse

CMG (Capital Markets Gateway)
51 – 200 Medarbejdere
FintechLogistikRådgivning

Led frontendudviklingen af CMG’s analyseprodukt DataLab, og form React- og TypeScript-grænseflader til platformen for aktiekapitalmarkeder. Sæt retningen for frontendarkitektur, test, tilgængelighed og tekniske arbejdsgange.

Åbn