Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.

Expert în siguranța inteligenței artificiale (engleză și telugu) – Contract la distanță

Realizarea de evaluări red team pentru modele și agenți de inteligență artificială conversațională pentru Mercor, cu accent pe siguranța în limbile engleză și telugu. Crearea de date despre vulnerabilități, cazuri de atac și rapoarte reproductibile pentru a sprijini dezvoltarea unei inteligențe artificiale mai sigure.

Descriere

  • Testarea modelelor și agenților de inteligență artificială conversațională cu jailbreak-uri, injecții de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipulare pe mai multe runde
  • Adnotarea erorilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
  • Utilizarea taxonomiilor, benchmarkurilor și ghidurilor operaționale pentru evaluări consecvente
  • Crearea de rapoarte, seturi de date și cazuri de atac reproductibile pentru clienți
  • Evaluarea rezultatelor inteligenței artificiale care implică prejudecăți, dezinformare, comportament dăunător și alte subiecte sensibile
  • Contribuția la proiecte care antrenează și îmbunătățesc sisteme de inteligență artificială
  • Identificarea vulnerabilităților pe care testarea automată nu le detectează
  • Extinderea acoperirii evaluărilor pentru a contribui la reducerea problemelor neașteptate din producție

Cerințe

  • Cunoașterea limbilor engleză și telugu la nivel nativ sau fluent
  • Discernământ solid în evaluarea acurateței, completitudinii și adecvării răspunsurilor inteligenței artificiale
  • Capacitatea de a comunica clar raționamentul atât publicului tehnic, cât și celui non-tehnic
  • Atenție meticuloasă la erori subtile, inconsecvențe și omisiuni
  • Respectarea consecventă a orientărilor și standardelor de calitate
  • Flexibilitate între proiecte, formate de sarcini și clienți
  • Disponibilitatea de a lucra ca antreprenor independent
  • Nu trebuie să fiți candidat pentru H-1B sau STEM OPT; specializările relevante pot include învățare automată adversarială, seturi de date pentru jailbreak-uri, injecții de prompturi, atacuri RLHF/DPO, extragerea modelelor, testarea penetrării, dezvoltarea de exploituri, inginerie inversă, investigarea hărțuirii sau dezinformării, analiza abuzului, testarea inteligenței artificiale conversaționale, psihologie, actorie sau scriere.
  • beneficii

Beneficii

  • Lucru complet la distanță, după un program stabilit de dumneavoastră
  • Plăți săptămânale prin Stripe sau Wise pentru serviciile prestate
  • Dobândirea de experiență în red teaming pentru inteligență artificială bazat pe date umane și axat pe siguranță avansată
  • Contribuția la sisteme de inteligență artificială mai robuste, sigure și de încredere
  • Alegerea participării la proiecte cu sensibilitate ridicată
  • Acces la îndrumări clare și resurse de bunăstare pentru proiecte cu sensibilitate ridicată
  • Posibilitatea de a solicita adaptări rezonabile
  • Câștiguri de până la 90 de dolari pentru fiecare recomandare reușită, fără o limită declarată a recomandărilor

Locuri de muncă similare

Vital Research

Bilingual Field Interviewer, English and Spanish

Vital Research

Conduct confidential video and in-person surveys for Vital Research’s evaluation of Arizona state-supported services. Responsibilities include participant outreach, scheduling, data collection, and accurate response recording.

Deschide
Guild Mortgage

Senior DevOps Engineer at Guild Mortgage (Remote, US)

Guild Mortgage
1.001 – 5.000 Angajați
ConstrucțiiFinanțeImobiliare

Automate cloud infrastructure, deployments, and observability for Guild Mortgage’s home-financing business. Help strengthen the reliability, security, and scalability of customer-facing systems.

Deschide