51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.
Expert în siguranța inteligenței artificiale la Mercor – engleză și gujarati, contract la distanță în SUA
Realizarea de evaluări red team conduse de oameni pentru modelele și agenții conversaționali de inteligență artificială ai Mercor. Generarea de date despre vulnerabilități, scenarii de atac și evaluări de siguranță reproductibile în engleză și gujarati.
Descriere
- Testarea modelelor și agenților conversaționali de inteligență artificială folosind jailbreak-uri, injecții de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipularea în mai multe runde
- Adnotarea erorilor, clasificarea vulnerabilităților și escaladarea riscurilor sistemice
- Utilizarea taxonomiilor, benchmarkurilor și ghidurilor consacrate pentru evaluări consecvente
- Crearea de rapoarte, seturi de date și scenarii de atac reproductibile
- Evaluarea rezultatelor inteligenței artificiale care implică prejudecăți, dezinformare, comportament dăunător și alte subiecte sensibile
- Detectarea punctelor slabe pe care testarea automată le-ar putea omite
- Extinderea acoperirii evaluărilor și contribuția la limitarea problemelor neașteptate din producție
- Îmbunătățirea sistemelor de inteligență artificială ale clienților prin red teaming realizat de oameni și bazat pe date
Cerințe
- Fluență la nivel nativ în engleză și gujarati
- Discernământ bun la evaluarea limbajului și a conținutului
- Capacitatea de a stabili dacă răspunsurile inteligenței artificiale sunt exacte, complete și adecvate și de a explica evaluarea
- Atenție deosebită la erori subtile, inconsecvențe și omisiuni
- Respectarea consecventă a orientărilor și standardelor de calitate
- Comunicarea clară a raționamentului către public tehnic și non-tehnic
- Flexibilitate în cadrul unor proiecte, formate de sarcini și clienți diferiți
- Disponibilitatea de a lucra ca antreprenor independent
- Nu trebuie să fii candidat H-1B sau STEM OPT
- Experiența în învățarea automată adversarială, securitate cibernetică, risc sociotehnic sau sondare creativă constituie un avantaj
Beneficii
- Muncă contractuală complet la distanță
- Program flexibil
- Plăți săptămânale prin Stripe sau Wise
- Opțiunea de a participa la proiecte cu sensibilitate mai ridicată
- Îndrumare și resurse de bunăstare pentru munca ce implică materiale sensibile
- Compensație competitivă
- Oportunitatea de a colabora cu cercetători de top
- Acomodări rezonabile disponibile la cerere
- Program de recomandări care oferă până la 90 de dolari pentru fiecare recomandare reușită