51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Esperto di sicurezza dell’IA – inglese e finlandese (da remoto)
Mercor cerca esperti di sicurezza dell’IA che parlino inglese e finlandese per effettuare test di red teaming su modelli e agenti di IA conversazionale. Il lavoro consiste nel produrre dati riproducibili sulle vulnerabilità e casi di attacco per progetti di addestramento di IA all’avanguardia.
Descrizione
- Eseguire test avversariali su modelli e agenti di IA conversazionale usando jailbreak, prompt injection, scenari di uso improprio, sfruttamento dei bias e manipolazione su più turni
- Documentare i malfunzionamenti, classificare le vulnerabilità e identificare i rischi sistemici
- Applicare tassonomie, benchmark e playbook consolidati per mantenere valutazioni coerenti
- Creare report, set di dati e casi di attacco riproducibili
- Esaminare gli output dei modelli che coinvolgono bias, disinformazione e comportamenti dannosi
- Ampliare la copertura delle valutazioni per identificare vulnerabilità che i test automatizzati potrebbero non rilevare
- Collaborare con i team di progetto che supportano l’addestramento e il miglioramento dei sistemi di IA all’avanguardia
Requisiti
- Inglese e finlandese fluenti o a livello madrelingua
- Precedente esperienza nel red teaming dell’IA, nei test avversariali di cybersecurity o nell’analisi sociotecnica
- Comprovata capacità di testare i sistemi di IA in modo avversariale
- Capacità di lavorare con framework, tassonomie, benchmark e playbook
- Capacità di comunicare chiaramente i rischi a interlocutori tecnici e non tecnici
- Adattabilità a diversi progetti e clienti
- È necessario lavorare come collaboratore autonomo
- È necessario poter lavorare senza informazioni riservate o proprietarie appartenenti a un altro datore di lavoro, cliente o istituzione
- Non sono supportati i candidati H-1B e STEM OPT
Benefit
- Ruolo contrattuale completamente da remoto
- Orario flessibile con controllo sulle ore di lavoro
- Possibilità di partecipare a progetti a maggiore sensibilità
- Indicazioni chiare e risorse per il benessere
- Pagamenti settimanali tramite Stripe o Wise
- Compenso competitivo
- Opportunità di segnalazione con un compenso fino a 250 USD per ogni segnalazione andata a buon fine
- Sistemazioni ragionevoli disponibili su richiesta