51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Red Teamer per la Sicurezza dell’IA - Contratto da Remoto (Stati Uniti)
Mercor cerca un red teamer per la sicurezza dell’IA che individui le vulnerabilità dei modelli di IA all’avanguardia attraverso test avversariali. Il ruolo prevede la progettazione di prompt e la valutazione dei comportamenti ad alto rischio dei modelli insieme a ricercatori di sicurezza dell’IA.
Descrizione
- Creare prompt avversariali per mettere alla prova modelli di IA all’avanguardia
- Individuare jailbreak, comportamenti non sicuri, allucinazioni e violazioni delle policy
- Valutare la robustezza dei modelli in aree sensibili come disinformazione, cybersicurezza, biosicurezza, frodi e contenuti politici
- Documentare le vulnerabilità e contribuire a benchmark di sicurezza e report di red teaming
- Collaborare con ricercatori di IA per rafforzare l’allineamento, la robustezza e la sicurezza dei modelli
- Contribuire a progetti di addestramento e miglioramento dei sistemi di IA
Requisiti
- Laurea o titolo superiore in informatica, cybersicurezza, giornalismo, comunicazione, psicologia, biologia, chimica, politiche pubbliche o campo correlato
- Almeno cinque anni di esperienza professionale nella sicurezza dell’IA, nel red teaming dell’IA, nella fiducia e sicurezza, nella cybersicurezza, nel giornalismo investigativo, nelle scienze della vita o in un’area correlata
- Ottime capacità di ragionamento analitico, progettazione di prompt e comunicazione scritta
- Esperienza nella creazione di prompt avversariali o nella valutazione di sistemi di IA all’avanguardia
- È preferibile esperienza nel red teaming dell’IA, RLHF, SFT, allineamento dell’IA o fiducia e sicurezza
- È preferibile familiarità con i test di jailbreak, l’ingegneria dei prompt o i metodi di valutazione avversariale
- È preferibile una competenza in uno o più ambiti complessi come cybersicurezza, biosicurezza, contenuti politici, disinformazione o sicurezza scientifica
- Capacità di lavorare come contraente indipendente
- Non è previsto supporto per i candidati con H-1B e STEM OPT
Benefit
- Lavoro completamente da remoto
- Orari flessibili
- Pagamenti settimanali tramite Stripe o Wise
- I progetti possono essere prorogati, ridotti o conclusi in anticipo in base alle esigenze aziendali e alle prestazioni
- Attività di test avversariale con ricercatori e team di sicurezza dell’IA di alto livello
- Opportunità di contribuire a definire il modo in cui i sistemi di IA affrontano complesse sfide di sicurezza nel mondo reale
- Sono disponibili accomodamenti ragionevoli su richiesta
- Pagamenti per segnalazioni fino a 340 $ per ogni segnalazione andata a buon fine, soggetti ai limiti previsti