51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.
Expert în red teaming pentru siguranța inteligenței artificiale – engleză și finlandeză, lucru de la distanță din Statele Unite
Realizarea de teste adversariale pentru modele și agenți conversaționali de inteligență artificială în cadrul proiectelor Mercor bazate pe date umane pentru AI. Crearea de date reproductibile despre vulnerabilități pentru consolidarea sistemelor avansate de inteligență artificială.
Descriere
- Testarea modelelor și agenților conversaționali de inteligență artificială folosind jailbreak-uri, injecții de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipulare în mai multe runde
- Adnotarea eșecurilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
- Aplicarea taxonomiilor, benchmarkurilor și ghidurilor consacrate pentru evaluări consecvente
- Crearea de rapoarte, seturi de date și cazuri de atac reproductibile pentru clienți
- Identificarea vulnerabilităților pe care testarea automatizată le poate omite
- Extinderea acoperirii evaluărilor și contribuția la reducerea problemelor neașteptate din producție
- Colaborarea cu cercetători de top la proiecte de instruire și îmbunătățire a sistemelor de inteligență artificială
Cerințe
- Cunoștințe fluentă sau native de limba engleză și finlandeză
- Experiență anterioară în red teaming pentru atacuri asupra sistemelor AI, securitate cibernetică sau testare sociotehnică
- Capacitatea de a testa adversarial sistemele AI și de a le împinge către puncte de eșec
- Experiență în aplicarea unor cadre sau benchmarkuri pentru testare structurată
- Capacitatea de a comunica clar riscurile către publicuri tehnice și non-tehnice
- Adaptabilitate între proiecte și cerințele clienților
- Disponibilitate pentru o colaborare în regim de contractor independent
- Nu trebuie să fiți candidat pentru H-1B sau STEM OPT
- Experiența în machine learning adversarial este preferată, inclusiv în seturi de date pentru jailbreak-uri, prompt injection, atacuri RLHF sau DPO ori extragerea modelelor
- Experiența în securitate cibernetică este preferată, inclusiv testare de penetrare, dezvoltare de exploituri sau reverse engineering
- Experiența în riscuri sociotehnice este preferată, inclusiv testarea hărțuirii sau dezinformării, analiza abuzurilor ori testarea AI conversaționale
- Este preferată experiența în psihologie, actorie sau scriere, care susține gândirea adversarială neconvențională
Beneficii
- Lucru complet la distanță
- Program flexibil
- Plăți săptămânale prin Stripe sau Wise
- Resurse pentru bunăstare și îndrumări clare pentru proiecte cu sensibilitate ridicată
- Oportunitatea de a dobândi experiență în red teaming AI bazat pe date umane
- Oportunitatea directă de a contribui la sisteme AI mai robuste, sigure și demne de încredere
- Plată competitivă
- Bonus de recomandare de până la 250 USD pentru fiecare recomandare reușită