Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.

Expert în testarea ofensivă a siguranței inteligenței artificiale (engleză și punjabi)

Efectuează teste adversariale asupra modelelor și agenților conversaționali de inteligență artificială în engleză și punjabi. Creează adnotări ale vulnerabilităților, cazuri de atac, seturi de date și rapoarte de siguranță reproductibile pentru proiectele Mercor de siguranță a inteligenței artificiale bazate pe date umane.

Descriere

  • Sondează modele și agenți conversaționali de inteligență artificială folosind jailbreak-uri, injecții de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipulare pe mai multe runde
  • Creează adnotări pentru date umane prin documentarea eșecurilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
  • Folosește taxonomii, benchmarkuri și ghiduri de lucru consacrate pentru a menține evaluări consecvente
  • Livrează clienților rapoarte, seturi de date și cazuri de atac reproductibile
  • Evaluează rezultatele inteligenței artificiale referitoare la prejudecăți, dezinformare, comportament nociv și alte subiecte sensibile
  • Extinde aria evaluării pentru a identifica vulnerabilități pe care testarea automatizată le poate omite
  • Contribuie la îmbunătățirea siguranței, robusteții și fiabilității sistemelor de inteligență artificială ale clienților

Cerințe

  • Cunoștințe de nivel nativ sau fluent în limbile engleză și punjabi
  • Judecată solidă în evaluarea acurateței, exhaustivității și adecvării conținutului generat de inteligența artificială
  • Capacitatea de a detecta erori subtile, inconsecvențe și omisiuni
  • Respectarea consecventă a orientărilor, taxonomiilor, benchmarkurilor, ghidurilor de lucru și standardelor de calitate
  • Comunicarea clară a raționamentului către publicuri tehnice și non-tehnice
  • Flexibilitate în lucrul pe proiecte, formate de sarcini și cerințe ale clienților diverse
  • Capacitatea de a lucra ca antreprenor independent
  • Candidații H1-B și STEM OPT nu sunt eligibili
  • Experiența în învățare automată adversarială, seturi de date pentru jailbreak-uri, atacuri prin injecții de prompturi sau RLHF/DPO, extragerea modelelor, testarea penetrării, dezvoltarea de exploituri, inginerie inversă, testarea hărțuirii sau a dezinformării, analiza abuzurilor, testarea inteligenței artificiale conversaționale, psihologie, actorie sau scriere adversarială neconvențională constituie un avantaj

Beneficii

  • Muncă complet la distanță, cu program flexibil gestionat autonom
  • Plăți săptămânale prin Stripe sau Wise
  • Compensație competitivă
  • Resurse pentru starea de bine și îndrumări clare pentru proiectele cu sensibilitate ridicată
  • Sunt disponibile adaptări rezonabile la cerere
  • Plăți pentru recomandări de până la 90 de dolari pentru fiecare recomandare reușită
  • Oportunități de colaborare cu cercetători de top
  • Experiență practică în testarea ofensivă a inteligenței artificiale cu date umane, în avangarda siguranței inteligenței artificiale

Locuri de muncă similare

ENFRA

Electrical Designer III, On-Site in Tempe, AZ | ENFRA

ENFRA

Design building electrical systems for ENFRA projects, preparing calculations, drawings, and specifications under the guidance of a licensed professional electrical engineer. Coordinate across disciplines, support construction through site visits, and manage small design projects.

Deschide