51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.
Expert în siguranța AI, la distanță (engleză și marathi), la Mercor
Testează modelele conversaționale de inteligență artificială pentru vulnerabilități prin testare red-team în engleză și marathi. Creează seturi de date, cazuri de atac și rapoarte reproductibile pentru proiecte de siguranță AI bazate pe date umane.
Descriere
- Efectuarea testării red-team a modelelor și agenților conversaționali de inteligență artificială folosind jailbreak-uri, injectarea de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipularea pe mai multe runde
- Crearea de date umane prin adnotarea defecțiunilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
- Utilizarea taxonomiilor, reperelor de evaluare și ghidurilor de proceduri pentru menținerea unor evaluări consecvente
- Elaborarea de rapoarte, seturi de date și cazuri de atac reproductibile pentru clienți
- Evaluarea rezultatelor AI care implică subiecte sensibile, inclusiv prejudecăți, dezinformare și comportament dăunător
- Identificarea punctelor slabe pe care testarea automatizată le-ar putea omite
- Extinderea acoperirii evaluării pentru a contribui la prevenirea problemelor neașteptate în producție
- Sprijinirea clienților în îmbunătățirea siguranței, robusteții și credibilității sistemelor lor AI
Cerințe
- Sunt necesare competențe fluente sau native în limba engleză și marathi
- Capacitate solidă de judecată în privința limbii și conținutului, inclusiv abilitatea de a evalua dacă răspunsurile AI sunt corecte, complete și adecvate și de a explica raționamentul
- Atenție excepțională la erori subtile, inconsecvențe și omisiuni
- Respectarea consecventă a orientărilor stabilite și a standardelor de calitate
- Comunicarea clară a raționamentului către publicuri tehnice și non-tehnice
- Capacitatea de adaptare la proiecte, formate de sarcini și clienți diferiți
- Este necesară activitatea în calitate de contractor independent
- Candidații H1-B și STEM OPT nu beneficiază de sprijin
- Experiența în învățare automată adversarială este preferată, inclusiv cu seturi de date pentru jailbreak-uri, injectarea de prompturi, atacuri RLHF sau DPO ori extragerea modelelor
- Experiența în securitate cibernetică este preferată, inclusiv în testarea penetrării, dezvoltarea de exploituri sau inginerie inversă
- Experiența în riscuri socio-tehnice este preferată, inclusiv investigarea hărțuirii sau dezinformării, analiza abuzurilor ori testarea AI conversaționale
- Experiența în psihologie, actorie sau scriere este preferată, deoarece sprijină gândirea adversarială neconvențională
Beneficii
- Muncă complet la distanță
- Program flexibil, cu posibilitatea de a-ți alege orele de lucru
- Plăți săptămânale prin Stripe sau Wise, pe baza serviciilor prestate
- Durata proiectului poate fi extinsă, redusă sau încheiată anticipat în funcție de nevoile de afaceri și de performanță
- Resurse pentru bunăstare și îndrumări clare pentru proiectele care implică un conținut mai sensibil
- Sunt disponibile adaptări rezonabile la cerere
- Program de recomandări care oferă până la 90 USD pentru fiecare recomandare reușită, fără limită de recomandări
- Oportunitatea de a colabora cu cercetători de top
- Oportunitatea de a dobândi experiență în testarea red-team a AI bazată pe date umane, în avangarda siguranței AI