Mercor
Mercor
51 – 200 Angajați
Informațiile disponibile despre Mercor nu includ suficiente date verificate despre produsele, serviciile, clienții, sectorul sau direcția de recrutare a companiei pentru a permite o prezentare exactă. Sunt necesare mai multe surse înainte de a descrie activitatea companiei sau oportunitățile oferite.

Expert în siguranța inteligenței artificiale - engleză și punjabi

Rol contractual la distanță pentru experți în siguranța inteligenței artificiale, fluenți în engleză și punjabi, care sprijină proiectele Mercor de testare adversarială a inteligenței artificiale conversaționale. Testați jailbreak-uri, injecții de prompturi, riscuri de conținut dăunător și vulnerabilități ale modelelor, documentând constatări reproductibile.

Descriere

  • Efectuarea de teste adversariale asupra modelelor și agenților de inteligență artificială conversațională folosind jailbreak-uri, injecții de prompturi, scenarii de utilizare abuzivă, exploatarea prejudecăților și manipulare pe mai multe runde
  • Crearea de date generate de oameni prin adnotarea eșecurilor, clasificarea vulnerabilităților și identificarea riscurilor sistemice
  • Aplicarea taxonomiilor, reperelor și ghidurilor consacrate pentru menținerea unor evaluări consecvente
  • Pregătirea de rapoarte, seturi de date și cazuri de atac reproductibile pentru clienți
  • Evaluarea rezultatelor inteligenței artificiale pentru prejudecăți, dezinformare, comportament dăunător și alte riscuri legate de conținut sensibil
  • Identificarea punctelor slabe pe care evaluările automatizate le-ar putea omite
  • Extinderea acoperirii evaluărilor pentru a contribui la limitarea problemelor neașteptate în producție
  • Îmbunătățirea sistemelor de inteligență artificială ale clienților prin teste adversariale structurate

Cerințe

  • Fluență nativă în engleză și punjabi
  • Judecată solidă în evaluarea limbajului și a conținutului
  • Capacitatea de a determina dacă răspunsurile inteligenței artificiale sunt exacte, complete și adecvate și de a explica evaluarea
  • Atenție sporită la erori subtile, inconsecvențe și omisiuni
  • Respectarea consecventă a instrucțiunilor și standardelor de calitate
  • Comunicarea clară a raționamentului către publicuri tehnice și non-tehnice
  • Capacitatea de adaptare la proiecte, formate de sarcini și clienți diferiți
  • Statut de contractor independent
  • Nu trebuie să fiți candidat H1-B sau STEM OPT
  • Experiența în învățare automată adversarială este preferată, inclusiv cu seturi de date pentru jailbreak-uri, injecții de prompturi, atacuri RLHF/DPO sau extragerea modelelor
  • Experiența în securitate cibernetică este preferată, în testarea penetrării, dezvoltarea de exploituri sau inginerie inversă
  • Experiența în riscuri sociotehnice este preferată, inclusiv sondarea hărțuirii sau dezinformării, analiza abuzului sau testarea inteligenței artificiale conversaționale
  • Experiența în psihologie, actorie sau scriere care sprijină gândirea adversarială neconvențională este preferată

Beneficii

  • Muncă complet la distanță
  • Program flexibil, cu posibilitatea de a lucra după propriul program
  • Plăți săptămânale prin Stripe sau Wise
  • Proiectele pot fi prelungite, scurtate sau încheiate anticipat în funcție de nevoile afacerii și de performanță
  • Participare opțională la proiecte cu sensibilitate mai ridicată
  • Sunt oferite instrucțiuni privind conținutul și resurse pentru bunăstare
  • Plată competitivă
  • Sunt disponibile acomodări rezonabile la cerere
  • Plăți pentru recomandări de până la 90 de dolari pentru fiecare recomandare reușită, în limita plafoanelor de recomandări

Locuri de muncă similare

Johnson & Johnson

Senior Techno-Vigilance Analyst – Johnson & Johnson, Hybrid in Mexico City

Johnson & Johnson

Oversee drug and medical device safety monitoring at Johnson & Johnson, investigating signals and root causes. Improve safety processes and help manage product risks across development, clinical trials, and regulatory approval.

Deschide
Pets Deli

Senior Backend Engineer, Elixir/Phoenix

Pets Deli

Build Pets Deli’s Elixir/Phoenix platform for pet food orders, checkout, billing and subscriptions. Migrate legacy services while guiding architecture, reliability and delivery.

Deschide
YASH Technologies

Senior Core Java Software Engineer

YASH Technologies

Build and maintain enterprise Java applications at YASH Technologies, a technology integrator. The role includes designing and optimizing solutions, deploying software, and mentoring developers.

Deschide
Snowflake

Senior Engagement Manager, Frontier Engineering

Snowflake

Lead Snowflake’s New Zealand customer engagements in data and AI transformation, guiding work from discovery through production outcomes. Own sales, delivery, financial performance, and account expansion across each engagement.

Deschide
Ultralytics

Founding Engineer, Computer Vision

Ultralytics

Build Ultralytics YOLO computer vision models, APIs, and infrastructure while establishing the company’s New York engineering team. Take technical ownership from architecture through production and iteration.

Deschide