51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Red Teamer per la sicurezza dell'IA - Contratto da remoto negli Stati Uniti
Mercor cerca un Red Teamer per la sicurezza dell'IA con contratto, incaricato di mettere alla prova i modelli di IA di frontiera e individuarne le vulnerabilità. Il ruolo si concentra su ambiti ad alto rischio e contribuisce allo sviluppo di sistemi di IA più sicuri e affidabili.
Descrizione
- Creare prompt avversariali che mettano rigorosamente alla prova i modelli di IA di frontiera
- Individuare jailbreak, comportamenti non sicuri, allucinazioni e inosservanze delle policy di sicurezza
- Valutare la resilienza dei modelli rispetto a disinformazione, cybersicurezza, biosicurezza, frodi, contenuti politici e altre aree sensibili
- Registrare le debolezze individuate e contribuire ai benchmark di sicurezza e ai report di red teaming
- Collaborare con i ricercatori di IA per promuovere l'allineamento, la robustezza e la sicurezza dei modelli
- Contribuire a proteggere e migliorare i sistemi emergenti di IA di frontiera
- Definire come i modelli di IA gestiscono scenari di sicurezza complessi in contesti reali
Requisiti
- Laurea o titolo superiore in informatica, cybersicurezza, giornalismo, comunicazione, psicologia, biologia, chimica, politiche pubbliche o ambito correlato
- Almeno cinque anni di esperienza professionale nella sicurezza dell'IA, nel red teaming dell'IA, nella trust and safety, nella cybersicurezza, nel giornalismo investigativo, nelle scienze della vita o in un ambito correlato
- Solida capacità di giudizio analitico, abilità nello sviluppo di prompt e capacità di comunicazione scritta
- Esperienza pratica nella creazione di prompt avversariali o nella valutazione di sistemi di IA di frontiera
- Preferibile: esperienza nel red teaming dell'IA, RLHF, SFT, allineamento dell'IA o trust and safety
- Preferibile: familiarità con le valutazioni dei jailbreak, il prompt engineering o i metodi di valutazione avversariale
- Preferibile: competenze specialistiche in aree complesse come cybersicurezza, biosicurezza, contenuti politici, disinformazione o sicurezza scientifica
- Disponibilità a lavorare come contraente indipendente
- Non sono supportati i candidati con H-1B e STEM OPT
Benefit
- Lavoro completamente da remoto
- Stabilisci i tuoi orari di lavoro e completa gli incarichi con un programma flessibile
- Ricevi pagamenti settimanali tramite Stripe o Wise
- La durata del progetto può cambiare o terminare in anticipo in base alle esigenze aziendali e alle prestazioni
- Compenso competitivo
- Lavora al fianco di importanti ricercatori di IA e team di sicurezza
- Sono disponibili accomodamenti ragionevoli su richiesta
- Programma di segnalazione che offre fino a 340 USD per ogni segnalazione andata a buon fine, soggetto ai limiti previsti