Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.

Red Teamer pentru siguranța AI - Muncă la distanță în Statele Unite

Mercor caută un Red Teamer pentru siguranța AI, care să lucreze la distanță pentru a provoca modelele AI de ultimă generație și a descoperi vulnerabilități în domenii cu risc ridicat. Rolul contractual sprijină laboratoarele AI care dezvoltă și îmbunătățesc sisteme avansate.

Descriere

  • Crearea de prompturi adversariale pentru testarea modelelor AI de ultimă generație
  • Detectarea tentativelor de ocolire a protecțiilor, a comportamentului nesigur, a halucinațiilor și a încălcărilor politicilor
  • Evaluarea rezilienței modelelor la dezinformare, amenințări cibernetice, riscuri de biosecuritate, fraudă, conținut politic și alte subiecte sensibile
  • Înregistrarea vulnerabilităților descoperite și contribuția la elaborarea unor benchmarkuri de siguranță și rapoarte de red teaming
  • Colaborarea cu cercetători AI pentru consolidarea alinierii, robusteții și siguranței modelelor
  • Contribuția la proiecte care antrenează și îmbunătățesc sisteme AI

Cerințe

  • Diplomă de licență sau un nivel superior în informatică, securitate cibernetică, jurnalism, comunicare, psihologie, biologie, chimie, politici publice sau un domeniu conex
  • Cel puțin cinci ani de experiență profesională în siguranța AI, red teaming AI, trust and safety, securitate cibernetică, jurnalism de investigație, științele vieții sau un domeniu conex
  • Capacitate analitică solidă, abilitatea de a concepe prompturi și competențe de comunicare scrisă
  • Experiență în crearea de prompturi adversariale sau în evaluarea sistemelor AI de ultimă generație
  • Experiența în red teaming AI, RLHF, SFT, alinierea AI sau trust and safety constituie un avantaj
  • Familiaritatea cu testarea tentativelor de ocolire a protecțiilor, prompt engineering sau metodele de evaluare adversarială constituie un avantaj
  • Expertiza într-un domeniu cu zone gri, precum securitatea cibernetică, biosecuritatea, conținutul politic, dezinformarea sau siguranța științifică, constituie un avantaj
  • Capacitatea de a lucra ca antreprenor independent
  • Candidații H-1B și STEM OPT nu beneficiază de suport

Beneficii

  • Muncă complet la distanță
  • Program flexibil, autogestionat
  • Plăți săptămânale prin Stripe sau Wise
  • Proiectele pot fi prelungite, scurtate sau încheiate mai devreme în funcție de nevoile de business și de performanță
  • Compensație competitivă
  • Colaborare cu cercetători AI și echipe de siguranță de top
  • Sunt disponibile adaptări rezonabile la cerere
  • Plăți pentru recomandări de până la 340 de dolari pentru fiecare recomandare reușită, sub rezerva limitelor aplicabile

Locuri de muncă similare

ENFRA

Electrical Designer III, On-Site in Tempe, AZ | ENFRA

ENFRA

Design building electrical systems for ENFRA projects, preparing calculations, drawings, and specifications under the guidance of a licensed professional electrical engineer. Coordinate across disciplines, support construction through site visits, and manage small design projects.

Deschide