51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.
Expert Red Team pentru siguranța inteligenței artificiale – engleză și tamilă, contract la distanță
Testează modele și agenți conversaționali de inteligență artificială pentru vulnerabilități prin investigare adversarială și analiză Red Team structurată. Creează cazuri de atac, date despre vulnerabilități și rapoarte reproductibile pentru clienții laboratorului de inteligență artificială Mercor.
Descriere
- Testează modele și agenți conversaționali de inteligență artificială folosind jailbreakuri, injecții de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipularea pe mai multe runde
- Creează date etichetate de oameni prin documentarea eșecurilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
- Folosește taxonomii, benchmarkuri și ghiduri de lucru consacrate pentru a menține evaluări consecvente
- Elaborează rapoarte, seturi de date și cazuri de atac reproductibile pentru clienți
- Evaluează rezultatele inteligenței artificiale care implică prejudecăți, dezinformare, comportament dăunător și alte subiecte sensibile
- Identifică punctele slabe pe care testarea automatizată le poate omite
- Extinde acoperirea evaluărilor și contribuie la prevenirea problemelor neașteptate din producție
- Îmbunătățește sistemele de inteligență artificială ale clienților și contribuie la modele mai sigure și mai fiabile
Cerințe
- Fluență la nivel nativ atât în engleză, cât și în tamilă
- Judecată solidă în evaluarea limbajului și a conținutului
- Capacitatea de a determina dacă răspunsurile inteligenței artificiale sunt exacte, complete și potrivite și de a explica evaluarea
- Atenție minuțioasă la erori subtile, neconcordanțe și omisiuni
- Capacitatea de a aplica în mod consecvent orientările și standardele de calitate
- Comunicarea clară a raționamentului către publicuri tehnice și non-tehnice
- Flexibilitate între proiecte, formate de sarcini și clienți
- Preferat: experiență în învățarea automată adversarială cu seturi de date pentru jailbreakuri, injecții de prompturi, atacuri RLHF sau DPO ori extragerea modelelor
- Preferat: experiență în securitate cibernetică, inclusiv testare de penetrare, dezvoltare de exploituri sau inginerie inversă
- Preferat: experiență în riscuri sociotehnice, precum investigarea hărțuirii și a dezinformării, analiza abuzului sau testarea inteligenței artificiale conversaționale
- Preferat: experiență în investigare creativă în psihologie, actorie sau scriere
- Este obligatorie activitatea ca antreprenor independent
- Candidații cu H-1B și STEM OPT nu beneficiază de suport
Beneficii
- Muncă complet la distanță
- Program flexibil, cu posibilitatea de a-ți stabili propriile ore
- Plăți săptămânale prin Stripe sau Wise
- Compensație orară competitivă
- Oportunitatea de a dobândi experiență în Red Team pentru inteligență artificială, bazat pe date generate de oameni și axat pe siguranța modelelor de frontieră
- Contribuție directă la sisteme de inteligență artificială mai robuste, sigure și de încredere
- Participare opțională la proiecte cu sensibilitate mai ridicată
- Orientări și resurse pentru bunăstare în proiectele care implică subiecte sensibile
- Ajustări rezonabile disponibile la cerere
- Program de recomandări care oferă până la 90 USD pentru fiecare recomandare reușită, sub rezerva limitelor de recomandare