51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Esperto di sicurezza dell’IA da remoto (inglese e gujarati) – Contratto
Mercor cerca un esperto di sicurezza dell’IA, con contratto e fluente in inglese e gujarati, per eseguire attività di red teaming su modelli di IA di frontiera. Il lavoro consiste nel testare le vulnerabilità, valutare i malfunzionamenti e creare dataset e casi di attacco riproducibili.
Descrizione
- Testare modelli e agenti di IA conversazionale per individuare jailbreak, prompt injection, scenari di uso improprio, sfruttamento dei bias e manipolazione su più turni
- Creare dati generati da esseri umani annotando i malfunzionamenti, categorizzando le vulnerabilità e identificando i rischi sistemici
- Utilizzare tassonomie, benchmark e playbook consolidati per condurre valutazioni coerenti
- Sviluppare report riproducibili per i clienti, dataset e casi di attacco
- Valutare gli output dell’IA per individuare questioni sensibili, inclusi bias, disinformazione e comportamenti dannosi
- Individuare debolezze che i test automatizzati non rilevano
- Ampliare la copertura delle valutazioni per contribuire a prevenire problemi imprevisti in produzione
- Contribuire a progetti che addestrano e migliorano sistemi di IA di frontiera
Requisiti
- Conoscenza madrelingua o fluente dell’inglese e del gujarati
- Buon senso nel valutare lingua e contenuti in termini di accuratezza, completezza e appropriatezza
- Capacità di rilevare errori sottili, incoerenze e omissioni
- Rispetto costante delle linee guida stabilite e degli standard di qualità
- Comunicazione chiara del ragionamento a interlocutori tecnici e non tecnici
- Flessibilità tra progetti, formati delle attività ed esigenze dei clienti
- Collaborazione in qualità di contraente indipendente
- I candidati con H-1B e STEM OPT non sono idonei
- Preferibile: esperienza nel machine learning avversariale con dataset di jailbreak, prompt injection, attacchi RLHF/DPO o estrazione di modelli
- Preferibile: esperienza in cybersicurezza con test di penetrazione, sviluppo di exploit o reverse engineering
- Preferibile: esperienza nei rischi sociotecnici legati all’analisi di molestie o disinformazione, all’analisi degli abusi o ai test di IA conversazionale
- Preferibile: esperienza in psicologia, recitazione o scrittura che favorisca un pensiero avversariale non convenzionale
Benefit
- Lavorare da remoto dagli Stati Uniti
- Scegliere un orario flessibile adatto alla propria disponibilità
- Ricevere pagamenti settimanali tramite Stripe o Wise
- Scegliere se partecipare o meno a progetti a maggiore sensibilità
- Accedere a indicazioni chiare e risorse per il benessere dedicate agli incarichi con contenuti sensibili
- Compenso orario competitivo
- Sono disponibili accomodamenti ragionevoli su richiesta
- Possibilità di guadagnare fino a 90 USD per ogni segnalazione andata a buon fine, soggetta ai limiti applicabili