LogoFresh Jobs Ahead
Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.
LinkedIn
Locurile de muncă ale companiei

Expert în siguranța inteligenței artificiale la distanță (engleză și odia) – Contract

Mercor caută un expert în siguranța inteligenței artificiale, fluent în engleză și odia, pentru a testa prin red teaming modelele conversaționale de inteligență artificială în vederea antrenării modelelor de frontieră. Activitatea include crearea de adnotări ale vulnerabilităților, cazuri de atac, seturi de date și rapoarte de siguranță reproductibile.

USStatele Unite ale Americii
16 $ – 22 $ / oră
RemoteContractNivel mediuSeniorLimbă Obligatorie: englezăLimbă Obligatorie: odiaInteligență artificială
Securitate cibernetică

Descriere

  • Testarea modelelor și agenților conversaționali de inteligență artificială folosind jailbreak-uri, injecții de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipularea pe mai multe runde.
  • Documentarea eșecurilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice.
  • Utilizarea taxonomiilor, benchmarkurilor și ghidurilor de proceduri consacrate pentru a menține evaluări consecvente.
  • Crearea de rapoarte de siguranță, seturi de date și cazuri de atac reproductibile.
  • Investigarea rezultatelor modelelor pentru identificarea prejudecăților, dezinformării și comportamentului vătămător.
  • Sprijinirea antrenării și îmbunătățirii sistemelor avansate de inteligență artificială pentru laboratorul de inteligență artificială al Mercor și clienții săi enterprise.

Cerințe

  • Fluență la nivel nativ în engleză și odia.
  • Judecată solidă în evaluarea limbajului și conținutului.
  • Capacitatea de a determina dacă răspunsurile inteligenței artificiale sunt corecte, complete și adecvate și de a explica raționamentul.
  • Atenție sporită la erori subtile, neconcordanțe și omisiuni.
  • Capacitatea de a urma în mod consecvent instrucțiunile și standardele de calitate.
  • Capacitatea de a comunica clar raționamentul atât publicului tehnic, cât și celui non-tehnic.
  • Flexibilitate pentru a lucra la proiecte, formate de sarcini și cu clienți diferiți.
  • Disponibilitatea de a lucra ca antreprenor independent.
  • Candidații nu trebuie să fie eligibili pentru H-1B sau STEM OPT.
  • Experiența sau specializarea în învățare automată adversarială, securitate cibernetică, riscuri sociotehnice sau sondare creativă reprezintă un avantaj.

Beneficii

  • Muncă integral la distanță.
  • Program flexibil.
  • Participare opțională la proiecte cu sensibilitate ridicată.
  • Ghiduri și resurse de bunăstare pentru proiectele care implică materiale sensibile.
  • Plăți săptămânale prin Stripe sau Wise.
  • Compensație competitivă.
  • Oportunitatea de a colabora cu cercetători de top.
  • Plăți pentru recomandări de până la 90 USD pentru fiecare recomandare reușită.

Locuri de muncă similare