51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Specialista di test di sicurezza dell’IA
Mercor cerca uno specialista di test di sicurezza dell’IA per individuare le vulnerabilità dei modelli di IA all’avanguardia in ambiti ad alto rischio. Il lavoro aiuta i laboratori di IA ad addestrare e migliorare sistemi avanzati.
Descrizione
- Creare prompt avversari per testare modelli di IA all’avanguardia.
- Individuare jailbreak, comportamenti non sicuri, allucinazioni e violazioni delle policy.
- Valutare la robustezza dei modelli rispetto a disinformazione, cybersicurezza, biosicurezza, frodi, contenuti politici e altri ambiti sensibili.
- Registrare le vulnerabilità e contribuire alla produzione di benchmark di sicurezza e report di red teaming.
- Collaborare con ricercatori di IA per rafforzare l’allineamento, la robustezza e la sicurezza dei modelli.
- Contribuire a progetti per addestrare e migliorare i sistemi di IA.
Requisiti
- Laurea triennale o titolo superiore in informatica, cybersicurezza, giornalismo, comunicazione, psicologia, biologia, chimica, politiche pubbliche o un campo correlato.
- Almeno cinque anni di esperienza professionale nella sicurezza dell’IA, nel red teaming dell’IA, nella fiducia e sicurezza, nella cybersicurezza, nel giornalismo investigativo, nelle scienze della vita o in un campo correlato.
- Spiccate capacità di ragionamento analitico, progettazione di prompt e comunicazione scritta.
- Esperienza nella creazione di prompt avversari o nella valutazione di sistemi di IA all’avanguardia.
- È necessario risiedere in uno dei paesi idonei elencati: Albania, Austria, Belgio, Bulgaria, Bosnia ed Erzegovina, Svizzera, Cechia, Germania, Danimarca, Spagna, Estonia, Finlandia, Francia, Regno Unito, Grecia, Croazia, Ungheria, Irlanda, Islanda, Italia, Liechtenstein, Lituania, Lussemburgo, Lettonia, Monaco, Moldavia, Macedonia del Nord, Malta, Paesi Bassi, Norvegia, Polonia, Portogallo, Romania, San Marino, Serbia, Slovacchia, Slovenia, Svezia, Stati Uniti o Kosovo.
- Al momento non è possibile offrire supporto ai candidati con visto H-1B e STEM OPT.
Benefit
- Lavoro completamente da remoto con orario flessibile.
- Pagamenti settimanali tramite Stripe o Wise per i servizi prestati.
- La durata del progetto può essere prolungata, ridotta o terminata in anticipo in base alle esigenze del progetto e alle prestazioni.
- Retribuzione competitiva.
- Opportunità di lavorare con team di ricerca e sicurezza dell’IA di primo piano.
- Sono disponibili accomodamenti ragionevoli su richiesta.
- Programma di segnalazione che offre fino a 340 USD per ogni segnalazione andata a buon fine, soggetto a limiti.