51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Esperto di sicurezza dell’IA (inglese e kannada) – Contratto da remoto negli Stati Uniti
Mercor cerca uno specialista di red teaming dell’IA con conoscenza fluente dell’inglese e del kannada per testare le vulnerabilità dei modelli di frontiera. Il lavoro comprende la creazione di casi di attacco riproducibili, dataset di valutazione e rapporti sui rischi per progetti di addestramento dell’IA basati su dati umani.
Descrizione
- Testare modelli e agenti di IA conversazionale con jailbreak, prompt injection, scenari di uso improprio, sfruttamento dei bias e manipolazione su più turni
- Creare annotazioni di dati umani documentando i malfunzionamenti, classificando le vulnerabilità e identificando i rischi sistemici
- Utilizzare tassonomie, benchmark e playbook consolidati per mantenere valutazioni coerenti
- Preparare rapporti riproducibili per i clienti, dataset e casi di attacco
- Valutare le risposte dell’IA su argomenti sensibili, inclusi bias, disinformazione e comportamenti dannosi
- Analizzare i sistemi di IA alla ricerca di debolezze che i test automatizzati potrebbero non rilevare
- Ampliare la copertura delle valutazioni per contribuire a limitare problemi imprevisti in produzione
- Supportare l’addestramento e il miglioramento dei modelli di frontiera per il laboratorio di IA di Mercor e i suoi clienti aziendali
Requisiti
- Conoscenza dell’inglese e del kannada a livello madrelingua
- Buon senso nel valutare se le risposte dell’IA siano accurate, complete e appropriate
- Comunicazione chiara per spiegare il ragionamento a interlocutori tecnici e non tecnici
- Attenzione meticolosa agli errori sottili, alle incoerenze e alle omissioni
- Coerenza nell’applicazione di tassonomie, benchmark, playbook, linee guida e standard di qualità
- Flessibilità nel lavorare su progetti, formati di attività e clienti diversi
- Capacità di lavorare come contraente indipendente
- Non deve richiedere la sponsorizzazione H-1B o STEM OPT; questi percorsi di sponsorizzazione non sono supportati
- Costituisce un vantaggio un’esperienza pertinente in machine learning avversariale, cybersicurezza, rischio sociotecnico, test dell’IA conversazionale, psicologia, recitazione o scrittura avversariale non convenzionale
Benefit
- Lavorare completamente da remoto con la flessibilità di stabilire il proprio orario
- Ricevere pagamenti settimanali tramite Stripe o Wise per i servizi forniti
- Scegliere se partecipare a progetti che coinvolgono contenuti più sensibili
- Accedere a indicazioni chiare e risorse per il benessere durante gli incarichi con contenuti sensibili
- Ricevere un compenso competitivo
- Sviluppare esperienza pratica nel red teaming dell’IA basato su dati umani
- Collaborare con ricercatori di primo piano
- Richiedere adeguamenti ragionevoli quando necessario
- Ricevere premi per le segnalazioni fino a 90 USD per ogni segnalazione andata a buon fine