Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.

Expert în siguranța inteligenței artificiale – engleză și marathi (contract la distanță)

Mercor caută un expert în siguranța inteligenței artificiale, fluent în engleză și marathi, pentru testarea adversarială a sistemelor conversaționale de inteligență artificială. Rolul contractual se concentrează pe testare ofensivă, analiza vulnerabilităților și raportare clară pentru proiecte de date umane și inteligență artificială de vârf.

Descriere

  • Testarea modelelor și agenților conversaționali de inteligență artificială împotriva jailbreakurilor, injectării de prompturi, scenariilor de utilizare abuzivă, exploatării prejudecăților și manipulării în mai multe runde
  • Crearea de active de date umane prin adnotarea eșecurilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
  • Utilizarea taxonomiilor, benchmarkurilor și ghidurilor de lucru consacrate pentru a asigura evaluări consecvente
  • Livrarea unor cazuri de atac reproductibile, seturi de date și rapoarte pentru clienți
  • Evaluarea răspunsurilor inteligenței artificiale la subiecte sensibile, inclusiv prejudecăți, dezinformare și comportament dăunător
  • Identificarea punctelor slabe pe care metodele automate de evaluare le pot omite
  • Extinderea acoperirii testării pentru a contribui la prevenirea problemelor neașteptate în producție
  • Sprijinirea clienților în îmbunătățirea siguranței, robusteții și fiabilității sistemelor lor de inteligență artificială
  • Colaborarea cu cercetători de top la inițiative care antrenează și dezvoltă modele de inteligență artificială de vârf

Cerințe

  • Cunoștințe de nivel nativ sau fluent în engleză și marathi
  • Judecată solidă în evaluarea limbajului și a conținutului
  • Capacitatea de a determina dacă răspunsurile inteligenței artificiale sunt exacte, complete și potrivite, cu explicații clare
  • Atenție deosebită la erori subtile, neconcordanțe și omisiuni
  • Respectarea consecventă a ghidurilor de testare și a cerințelor de calitate
  • Comunicarea clară a raționamentului către publicuri tehnice și nontehnice
  • Flexibilitate pentru a lucra la proiecte, sarcini și clienți diferiți
  • Capacitatea de a lucra ca antreprenor independent
  • Nu trebuie să necesite sponsorizare H-1B sau STEM OPT
  • Preferabil: experiență în învățare automată adversarială, cu seturi de date pentru jailbreakuri, injectarea de prompturi, atacuri RLHF/DPO sau extragerea modelelor
  • Preferabil: experiență în securitate cibernetică, inclusiv testare de penetrare, dezvoltare de exploituri sau inginerie inversă
  • Preferabil: experiență în riscuri sociotehnice, inclusiv investigarea hărțuirii sau dezinformării, analiza abuzului ori testarea inteligenței artificiale conversaționale
  • Preferabil: experiență în psihologie, actorie sau scriere, care susține gândirea adversarială neconvențională

Beneficii

  • Muncă contractuală complet la distanță
  • Program flexibil, cu posibilitatea de a vă stabili propriul program de lucru
  • Plăți săptămânale prin Stripe sau Wise
  • Durata proiectului se poate schimba sau proiectul se poate încheia mai devreme în funcție de nevoile afacerii și de performanță
  • Participare opțională la proiecte care implică materiale cu un grad mai ridicat de sensibilitate
  • Îndrumări clare și resurse pentru starea de bine în cadrul sarcinilor cu conținut sensibil
  • Sunt disponibile adaptări rezonabile la cerere
  • Plăți pentru recomandări de până la 90 de dolari pentru fiecare recomandare reușită

Locuri de muncă similare

General Dynamics Information Technology

Senior AI Engineer and Architect

General Dynamics Information Technology

Lead AI, machine learning, and large language model architecture for General Dynamics Information Technology’s government, defense, and intelligence missions. Take solutions from proof of concept to production across complex operational settings.

Deschide