Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.

Expert Red Team pentru siguranța inteligenței artificiale (engleză și telugu) - Contract la distanță

Testează modele conversaționale de inteligență artificială pentru jailbreakuri, injectarea de instrucțiuni, utilizare abuzivă, prejudecăți și alte deficiențe de siguranță. Documentează vulnerabilități reproductibile și date de evaluare pentru clienții de cercetare în inteligență artificială.

Descriere

  • Testează adversarial modele și agenți conversaționali de inteligență artificială pentru jailbreakuri, injectarea de instrucțiuni, utilizare abuzivă, exploatarea prejudecăților și manipulare pe mai multe runde
  • Adnotează eșecurile testelor, clasifică vulnerabilitățile și identifică riscurile sistemice
  • Aplică taxonomii, benchmarkuri și ghiduri de lucru consacrate pentru a menține evaluări consecvente
  • Creează rapoarte, seturi de date și scenarii de atac reproductibile pentru clienți
  • Evaluează răspunsurile inteligenței artificiale la subiecte sensibile, inclusiv prejudecăți, dezinformare și comportament dăunător
  • Identifică punctele slabe pe care metodele automate de evaluare nu reușesc să le detecteze
  • Extinde acoperirea evaluărilor pentru a contribui la prevenirea problemelor neașteptate în producție
  • Îmbunătățește sistemele de inteligență artificială ale clienților prin testare adversarială repetabilă

Cerințe

  • Fluență nativă atât în engleză, cât și în telugu
  • Judecată solidă la evaluarea limbajului și a conținutului din perspectiva acurateței, completitudinii și adecvării
  • Capacitatea de a comunica clar raționamentul către publicuri tehnice și non-tehnice
  • Atenție atentă la erori subtile, inconsecvențe și omisiuni
  • Capacitatea de a urma consecvent orientările și standardele de calitate
  • Flexibilitate între proiecte, formate de sarcini și clienți
  • Colaborare în calitate de contractor independent
  • Capacitatea de a lucra fără a utiliza informații confidențiale sau brevetate ale vreunui angajator, client sau instituție
  • Candidații H-1B și STEM OPT nu sunt sprijiniți

Beneficii

  • Muncă complet la distanță, care poate fi desfășurată după un program stabilit autonom
  • Plăți săptămânale prin Stripe sau Wise pentru serviciile prestate
  • Participare opțională la proiecte care implică subiecte mai sensibile
  • Orientări și resurse pentru bunăstare în activități care implică materiale sensibile
  • Experiență în dezvoltarea expertizei de tip red team pentru inteligență artificială, bazată pe date umane
  • Oportunitatea de a contribui la dezvoltarea unor sisteme de inteligență artificială mai sigure, mai robuste și mai demne de încredere
  • Oportunități de colaborare cu cercetători de top
  • Plăți pentru recomandări de până la 90 de dolari pentru fiecare recomandare reușită, sub rezerva limitelor aplicabile

Locuri de muncă similare