51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Specialista di red teaming per la sicurezza dell'IA - Lavoro da remoto negli Stati Uniti
Mercor cerca uno specialista di red teaming per la sicurezza dell'IA, da remoto, per mettere alla prova modelli di IA all'avanguardia e individuare vulnerabilità in ambiti ad alto rischio. Il ruolo a contratto sostiene i laboratori di IA nello sviluppo e nel miglioramento di sistemi avanzati.
Descrizione
- Creare prompt avversariali per testare modelli di IA all'avanguardia
- Individuare jailbreak, comportamenti non sicuri, allucinazioni e violazioni delle policy
- Valutare la resilienza dei modelli rispetto a disinformazione, minacce informatiche, rischi di biosicurezza, frodi, contenuti politici e altri temi sensibili
- Registrare le vulnerabilità scoperte e contribuire alla realizzazione di benchmark di sicurezza e report di red teaming
- Collaborare con ricercatori di IA per rafforzare l'allineamento, la robustezza e la sicurezza dei modelli
- Contribuire a progetti per l'addestramento e il miglioramento dei sistemi di IA
Requisiti
- Laurea o titolo superiore in informatica, cybersicurezza, giornalismo, comunicazione, psicologia, biologia, chimica, politiche pubbliche o ambito correlato
- Almeno cinque anni di esperienza professionale nella sicurezza dell'IA, nel red teaming dell'IA, nella trust and safety, nella cybersicurezza, nel giornalismo investigativo, nelle scienze della vita o in un ambito correlato
- Solide capacità di analisi e giudizio, abilità nella progettazione di prompt e ottime capacità di comunicazione scritta
- Esperienza nella creazione di prompt avversariali o nella valutazione di sistemi di IA all'avanguardia
- È preferibile un'esperienza in red teaming dell'IA, RLHF, SFT, allineamento dell'IA o trust and safety
- È preferibile la familiarità con i test di jailbreak, il prompt engineering o i metodi di valutazione avversariale
- È preferibile una competenza in almeno un ambito grigio, come cybersicurezza, biosicurezza, contenuti politici, disinformazione o sicurezza scientifica
- Capacità di lavorare come collaboratore indipendente
- Non sono supportati i candidati H-1B e STEM OPT
Benefit
- Lavoro completamente da remoto
- Orario flessibile e autogestito
- Pagamenti settimanali tramite Stripe o Wise
- I progetti possono essere estesi, ridotti o conclusi anticipatamente in base alle esigenze aziendali e alle prestazioni
- Compenso competitivo
- Collaborazione con ricercatori di IA e team di sicurezza di primo piano
- Sono disponibili accomodamenti ragionevoli su richiesta
- Pagamenti per segnalazioni fino a 340 USD per ogni segnalazione andata a buon fine, soggetti ai limiti applicabili