51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Esperto di sicurezza dell’IA di Mercor – inglese e gujarati, contratto da remoto negli Stati Uniti
Conduci valutazioni umane di red teaming su modelli e agenti di IA conversazionale per Mercor. Genera dati sulle vulnerabilità, scenari di attacco e valutazioni di sicurezza riproducibili in inglese e gujarati.
Descrizione
- Esegui attività di red teaming su modelli e agenti di IA conversazionale usando jailbreak, prompt injection, scenari di uso improprio, sfruttamento dei bias e manipolazione su più turni
- Annota i guasti, categorizza le vulnerabilità e segnala i rischi sistemici
- Utilizza tassonomie, benchmark e playbook consolidati per mantenere valutazioni coerenti
- Crea report, set di dati e scenari di attacco riproducibili
- Valuta gli output dell’IA relativi a bias, disinformazione, comportamenti dannosi e altri argomenti sensibili
- Individua le debolezze che i test automatizzati potrebbero non rilevare
- Amplia la copertura delle valutazioni e contribuisci a limitare problemi imprevisti in produzione
- Migliora i sistemi di IA dei clienti attraverso attività di red teaming umane e basate sui dati
Requisiti
- Padronanza a livello nativo dell’inglese e del gujarati
- Solido discernimento nella valutazione del linguaggio e dei contenuti
- Capacità di determinare se le risposte dell’IA sono accurate, complete e appropriate, e di spiegare la valutazione
- Grande attenzione agli errori sottili, alle incoerenze e alle omissioni
- Rispetto costante delle linee guida e degli standard di qualità
- Comunicazione chiara del ragionamento a interlocutori tecnici e non tecnici
- Flessibilità nel lavorare su progetti, formati di attività e clienti diversi
- Disponibilità a lavorare come contraente indipendente
- Non essere candidati H-1B o STEM OPT
- Costituisce un plus l’esperienza in apprendimento automatico avversariale, cybersicurezza, rischio sociotecnico o attività di probing creativo
Benefit
- Lavoro a contratto completamente da remoto
- Orari flessibili
- Pagamenti settimanali tramite Stripe o Wise
- Possibilità di partecipare a progetti con maggiore sensibilità
- Orientamento e risorse per il benessere durante il lavoro su contenuti sensibili
- Compenso competitivo
- Opportunità di collaborare con ricercatori di primo piano
- Adattamenti ragionevoli disponibili su richiesta
- Programma di segnalazione che offre fino a 90 USD per ogni segnalazione andata a buon fine