Mercor
Mercor
51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.

Esperto di sicurezza dell’IA, inglese e olandese (contratto da remoto)

Mercor cerca esperti di sicurezza dell’IA che parlino inglese e olandese per sottoporre a red teaming modelli e agenti conversazionali. Il lavoro prevede la creazione di dati sulle vulnerabilità, scenari di attacco e report di sicurezza riproducibili per lo sviluppo di IA all’avanguardia.

Descrizione

  • Testare modelli e agenti di IA conversazionali usando jailbreak, iniezione di prompt, scenari di uso improprio, sfruttamento dei bias e manipolazione su più turni
  • Creare dati generati da persone annotando i malfunzionamenti, classificando le vulnerabilità e identificando i rischi sistemici
  • Utilizzare tassonomie, benchmark e playbook per supportare test di sicurezza coerenti
  • Sviluppare report, dataset e casi di attacco riproducibili per i clienti
  • Individuare vulnerabilità che i test automatizzati potrebbero non rilevare
  • Ampliare la copertura delle valutazioni per contribuire a ridurre i rischi imprevisti in produzione
  • Collaborare con ricercatori di primo piano per addestrare e migliorare sistemi di IA all’avanguardia

Requisiti

  • Conoscenza madrelingua dell’inglese e dell’olandese
  • Precedente esperienza nel red teaming dell’IA, nel lavoro avversariale di cybersicurezza o nell’analisi sociotecnica
  • Capacità di testare i sistemi di IA in modo avversariale e portarli verso condizioni di malfunzionamento
  • Esperienza nell’applicazione di framework o benchmark a test strutturati
  • Capacità di comunicare chiaramente i rischi a interlocutori tecnici e non tecnici
  • Capacità di adattarsi a progetti e clienti diversi
  • È preferibile un’esperienza nel machine learning avversariale con dataset di jailbreak, iniezione di prompt, attacchi RLHF/DPO o estrazione di modelli
  • È preferibile un’esperienza in cybersicurezza nei test di penetrazione, nello sviluppo di exploit o nel reverse engineering
  • È preferibile un’esperienza nei rischi sociotecnici legati all’analisi di molestie o disinformazione, all’analisi degli abusi o ai test di IA conversazionale
  • È preferibile un’esperienza nell’analisi creativa in psicologia, recitazione o scrittura
  • È necessario poter lavorare come collaboratore indipendente
  • I candidati con H-1B e STEM OPT non sono supportati

Benefit

  • Lavoro completamente da remoto
  • Orari flessibili con possibilità di stabilire il proprio orario
  • Pagamenti settimanali tramite Stripe o Wise in base ai servizi forniti
  • I progetti possono essere estesi, ridotti o conclusi in anticipo in base alle esigenze aziendali e alle prestazioni
  • La partecipazione a progetti a maggiore sensibilità è facoltativa
  • Vengono fornite linee guida sui contenuti e risorse per il benessere
  • Sono disponibili accomodamenti ragionevoli su richiesta
  • Retribuzione oraria competitiva
  • Possibilità di ricevere fino a 250 USD per ogni segnalazione andata a buon fine, soggetta a limiti

Offerte correlate

General Dynamics Information Technology

Ingegnere senior e architetto IA

General Dynamics Information Technology

Guida l’architettura di IA, apprendimento automatico e modelli linguistici di grandi dimensioni per le missioni governative, di difesa e di intelligence di General Dynamics Information Technology. Porta le soluzioni dalla prova di concetto alla produzione in contesti operativi complessi.

Apri
Lyra Health

Vicepresidente della contabilità globale presso Lyra Health

Lyra Health

Guida l’organizzazione contabile globale di Lyra Health mentre si prepara a presentare rendiconti come società quotata. Supervisiona rendicontazione finanziaria, controlli SOX, tesoreria, automazione e trasformazione contabile.

Apri