51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Esperto di sicurezza dell’IA (inglese e tamil) – Contratto da remoto
Mercor cerca un esperto di sicurezza dell’IA che parli inglese e tamil per sottoporre a red teaming modelli e agenti conversazionali. Il ruolo a contratto si concentra sull’identificazione delle vulnerabilità, sulla generazione di dati di valutazione e sulla produzione di report di sicurezza riproducibili.
Descrizione
- Condurre test avversariali su modelli e agenti di IA conversazionale utilizzando jailbreak, iniezioni di prompt, scenari di uso improprio, sfruttamento dei bias e manipolazioni su più turni.
- Creare dati generati da esseri umani annotando i fallimenti, categorizzando le vulnerabilità e identificando i rischi sistemici.
- Utilizzare tassonomie, benchmark e playbook consolidati per mantenere valutazioni coerenti.
- Fornire ai clienti report riproducibili, set di dati e casi di attacco.
- Valutare gli output dell’IA relativi a temi sensibili, inclusi bias, disinformazione e comportamenti dannosi.
- Individuare le debolezze che i metodi di valutazione automatizzati potrebbero non rilevare.
- Ampliare la copertura delle valutazioni per contribuire a ridurre al minimo i problemi imprevisti in produzione.
- Migliorare i sistemi di IA dei clienti attraverso test avversariali strutturati.
Requisiti
- Conoscenza madrelingua o fluente dell’inglese e del tamil.
- Buon senso nel valutare linguaggio e contenuti.
- Capacità di determinare se le risposte dell’IA sono accurate, complete e appropriate e di spiegare il ragionamento.
- Grande attenzione agli errori sottili, alle incoerenze e alle omissioni.
- Aderenza costante alle linee guida e agli standard di qualità.
- Capacità di comunicare chiaramente il ragionamento a interlocutori tecnici e non tecnici.
- Adattabilità a progetti, formati delle attività e clienti diversi.
- Capacità di lavorare come collaboratore indipendente.
- I candidati H1-B e STEM OPT non sono supportati.
- Preferibile: esperienza nel machine learning avversariale con dataset di jailbreak, attacchi di iniezione di prompt, attacchi RLHF o DPO o estrazione di modelli.
- Preferibile: esperienza di cybersicurezza nei test di penetrazione, nello sviluppo di exploit o nel reverse engineering.
- Preferibile: esperienza nei rischi sociotecnici legati all’indagine su molestie o disinformazione, all’analisi degli abusi o ai test di IA conversazionale.
- Preferibile: esperienza di esplorazione creativa in psicologia, recitazione o scrittura.
Benefit
- Lavoro completamente da remoto.
- Orari flessibili con la possibilità di stabilire le proprie ore di lavoro.
- Pagamenti settimanali tramite Stripe o Wise.
- Partecipazione facoltativa a progetti con maggiore sensibilità.
- Indicazioni chiare e risorse per il benessere durante il lavoro con contenuti sensibili.
- Retribuzione oraria competitiva.
- Opportunità di collaborare con ricercatori di primo piano.
- Compensi per segnalazioni fino a 90 USD per ogni segnalazione andata a buon fine, soggetti ai limiti applicabili.
- Sono disponibili accomodamenti ragionevoli su richiesta.