51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Specialista in red teaming per la sicurezza dei modelli di IA
Metti alla prova i modelli di IA all’avanguardia di Mercor con test avversariali per individuare vulnerabilità di sicurezza. Individua le criticità e contribuisci a migliorare l’allineamento dei modelli.
Descrizione
- Crea prompt avversariali per mettere alla prova modelli di IA all’avanguardia.
- Individua jailbreak, comportamenti non sicuri, allucinazioni e violazioni delle policy.
- Verifica la resilienza dei modelli rispetto a disinformazione, cybersicurezza, biosicurezza, frodi, contenuti politici e altri ambiti sensibili.
- Registra le vulnerabilità e contribuisci a produrre benchmark di sicurezza e rapporti di red teaming.
- Collabora con ricercatori di IA per rafforzare l’allineamento, la resilienza e la sicurezza dei modelli.
- Aiuta a proteggere e migliorare la prossima generazione di modelli di IA all’avanguardia.
- Contribuisci a progetti per addestrare e migliorare i sistemi di IA.
Requisiti
- Laurea triennale o titolo superiore in informatica, cybersicurezza, giornalismo, comunicazione, psicologia, biologia, chimica, politiche pubbliche o un campo affine
- Almeno cinque anni di esperienza professionale in sicurezza dell’IA, red teaming dell’IA, trust e safety, cybersicurezza, giornalismo investigativo, scienze della vita o un settore affine
- Ottime capacità di ragionamento analitico, progettazione di prompt e scrittura
- Esperienza nella creazione di prompt avversariali o nella valutazione di sistemi di IA all’avanguardia
- È preferibile avere esperienza in red teaming dell’IA, RLHF, fine-tuning supervisionato, allineamento dell’IA o trust e safety
- È preferibile conoscere i test di jailbreak, il prompt engineering o i metodi di valutazione avversariale
- È preferibile avere competenze approfondite in almeno un ambito sensibile, come cybersicurezza, biosicurezza, contenuti politici, disinformazione o sicurezza scientifica
- Non deve aver bisogno di sponsorizzazione per un visto H-1B o per STEM OPT; Mercor non può sponsorizzare candidati che necessitano di una di queste forme di supporto
Benefit
- Lavoro completamente da remoto con orari flessibili
- Pagamenti settimanali tramite Stripe o Wise per i servizi resi
- La durata del progetto può cambiare o terminare in anticipo in base alle esigenze del progetto e alle prestazioni
- Collaborazione con ricercatori di IA e team di sicurezza di primo piano
- Contribuisci a definire come i sistemi di IA gestiscono complesse sfide di sicurezza nel mondo reale
- Sono disponibili accomodamenti ragionevoli su richiesta
- Premi per segnalazioni fino a 340 $ per ogni segnalazione andata a buon fine, soggetti a limiti