51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Esperto di red teaming per la sicurezza dell’IA: inglese e finlandese, da remoto negli Stati Uniti
Conduci test avversariali su modelli e agenti di IA conversazionale per i progetti di IA basati su dati umani di Mercor. Crea dati riproducibili sulle vulnerabilità per contribuire a rafforzare i sistemi di IA all’avanguardia.
Descrizione
- Testa modelli e agenti di IA conversazionale usando jailbreak, prompt injection, scenari di uso improprio, sfruttamento dei bias e manipolazione su più turni
- Annota i malfunzionamenti, classifica le vulnerabilità e identifica i rischi sistemici
- Applica tassonomie, benchmark e playbook consolidati per valutazioni coerenti
- Crea report, dataset e casi di attacco riproducibili per i clienti
- Identifica le vulnerabilità che i test automatizzati potrebbero non rilevare
- Amplia la copertura delle valutazioni e contribuisci a ridurre i problemi imprevisti in produzione
- Collabora con ricercatori di primo piano a progetti che addestrano e migliorano i sistemi di IA
Requisiti
- Conoscenza fluente o madrelingua dell’inglese e del finlandese
- Precedente esperienza di red teaming nell’IA avversariale, nella cybersicurezza o nell’analisi sociotecnica
- Capacità di testare i sistemi di IA in modo avversariale e di portarli verso i punti di cedimento
- Esperienza nell’applicazione di framework o benchmark per test strutturati
- Capacità di comunicare chiaramente i rischi a interlocutori tecnici e non tecnici
- Adattabilità a diversi progetti e requisiti dei clienti
- Disponibilità a lavorare come appaltatore indipendente
- Non essere candidato H-1B o STEM OPT
- Preferibile: esperienza nel machine learning avversariale, inclusi dataset di jailbreak, prompt injection, attacchi RLHF/DPO o estrazione di modelli
- Preferibile: esperienza nella cybersicurezza, inclusi penetration test, sviluppo di exploit o reverse engineering
- Preferibile: esperienza nei rischi sociotecnici, inclusi l’analisi di molestie o disinformazione, l’analisi degli abusi o i test di IA conversazionale
- Preferibile: esperienza in psicologia, recitazione o scrittura che favorisca un pensiero avversariale non convenzionale
Benefit
- Lavoro completamente da remoto
- Orari flessibili
- Pagamenti settimanali tramite Stripe o Wise
- Risorse per il benessere e linee guida chiare per i progetti a maggiore sensibilità
- Opportunità di acquisire esperienza nel red teaming dell’IA basato su dati umani
- Opportunità diretta di contribuire a rendere i sistemi di IA più solidi, sicuri e affidabili
- Retribuzione competitiva
- Bonus per segnalazione fino a 250 $ per ogni segnalazione andata a buon fine