Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.

Expert în siguranța inteligenței artificiale, la distanță (engleză și tamilă)

Mercor caută un expert în siguranța inteligenței artificiale, vorbitor de engleză și tamilă, pentru testarea prin atacuri a modelelor conversaționale și a agenților. Rolul contractual se concentrează pe identificarea vulnerabilităților, evaluarea rezultatelor sensibile și crearea de date de siguranță reproductibile pentru antrenarea sistemelor avansate de inteligență artificială.

Descriere

  • Testarea prin atacuri a modelelor conversaționale și a agenților prin eludarea restricțiilor, injectarea de instrucțiuni, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipulare pe mai multe runde
  • Etichetarea erorilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
  • Aplicarea consecventă a taxonomiilor, criteriilor de evaluare și procedurilor de testare consacrate
  • Crearea de rapoarte, seturi de date și cazuri de atac reproductibile
  • Evaluarea rezultatelor inteligenței artificiale care implică prejudecăți, dezinformare, comportament vătămător și alte subiecte sensibile
  • Extinderea acoperirii evaluării prin identificarea punctelor slabe pe care testarea automatizată le-ar putea omite
  • Colaborarea cu echipele de proiect care dezvoltă și îmbunătățesc sisteme avansate de inteligență artificială

Cerințe

  • Cunoașterea limbilor engleză și tamilă la nivel nativ sau fluent
  • Discernământ bun la evaluarea limbajului și a conținutului
  • Capacitatea de a determina dacă răspunsurile inteligenței artificiale sunt exacte, complete și adecvate
  • Atenție deosebită la erori subtile, inconsecvențe și omisiuni
  • Respectarea consecventă a orientărilor și standardelor de calitate
  • Capacitatea de a comunica clar raționamentul către publicuri tehnice și non-tehnice
  • Flexibilitate în privința proiectelor, formatelor de sarcini și clienților
  • Disponibilitate pentru a lucra ca antreprenor independent
  • Nu trebuie să necesite sponsorizare H-1B sau STEM OPT
  • Experiența în învățare automată adversarială, securitate cibernetică, riscuri sociotehnice sau sondare creativă constituie un avantaj

Beneficii

  • Muncă complet la distanță
  • Program flexibil
  • Plăți săptămânale prin Stripe sau Wise
  • Compensație competitivă
  • Dobândirea de experiență în testarea prin atacuri a inteligenței artificiale bazată pe date umane
  • Contribuție la crearea unor sisteme de inteligență artificială mai robuste, sigure și de încredere
  • Colaborare cu cercetători de top
  • Sunt disponibile adaptări rezonabile la cerere
  • Plăți pentru recomandări de până la 90 de dolari pentru fiecare recomandare reușită

Locuri de muncă similare

New Engen

Senior Creative Strategist

New Engen
201 – 500 Angajați
B2BMarketingMedia

Lead paid social creative strategy for New Engen’s in-house Donut Studios, turning audience insight and campaign data into effective brand content.

Deschide
Guidewire Software

Senior Guidewire InsuranceSuite Architect – Brazil (Remote)

Guidewire Software

Lead InsuranceSuite architecture for property and casualty insurers, guiding cloud implementations, integrations, and technical delivery across Brazil and Latin America.

Deschide