Mercor
Mercor
51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.

Esperto di sicurezza dell’IA – inglese e marathi (contratto da remoto)

Mercor cerca un esperto di sicurezza dell’IA con una conoscenza fluente dell’inglese e del marathi per condurre test avversariali su sistemi di IA conversazionale. Il ruolo a contratto si concentra sui test di attacco, sull’analisi delle vulnerabilità e su report chiari per progetti di dati umani e di IA all’avanguardia.

Descrizione

  • Testa modelli e agenti di IA conversazionale rispetto a jailbreak, prompt injection, scenari di uso improprio, sfruttamento dei bias e manipolazione su più turni
  • Crea risorse di dati umani annotando gli errori, classificando le vulnerabilità e identificando i rischi sistemici
  • Utilizza tassonomie, benchmark e playbook consolidati per garantire valutazioni coerenti
  • Fornisci casi di attacco riproducibili, set di dati e report destinati ai clienti
  • Valuta le risposte dell’IA su argomenti sensibili, inclusi bias, disinformazione e comportamenti dannosi
  • Individua le debolezze che i metodi di valutazione automatizzata potrebbero non rilevare
  • Amplia la copertura dei test per contribuire a prevenire problemi imprevisti in produzione
  • Supporta i clienti nel migliorare la sicurezza, la robustezza e l’affidabilità dei loro sistemi di IA
  • Collabora con ricercatori di primo piano su iniziative che addestrano e fanno progredire modelli di IA all’avanguardia

Requisiti

  • Conoscenza madrelingua o fluente dell’inglese e del marathi
  • Buon senso nel valutare linguaggio e contenuti
  • Capacità di determinare se le risposte dell’IA sono accurate, complete e appropriate, con spiegazioni chiare
  • Grande attenzione agli errori sottili, alle incoerenze e alle omissioni
  • Rispetto affidabile delle linee guida per i test e dei requisiti di qualità
  • Comunicazione chiara del ragionamento a interlocutori tecnici e non tecnici
  • Flessibilità nel lavorare su progetti, attività e con clienti diversi
  • Capacità di lavorare come collaboratore autonomo
  • Non deve richiedere sponsorizzazione H-1B o STEM OPT
  • Preferibile: esperienza nel machine learning avversariale con dataset di jailbreak, prompt injection, attacchi RLHF/DPO o estrazione di modelli
  • Preferibile: esperienza di cybersicurezza nei test di penetrazione, nello sviluppo di exploit o nel reverse engineering
  • Preferibile: esperienza nei rischi sociotecnici, come l’analisi di molestie o disinformazione, l’analisi degli abusi o i test di IA conversazionale
  • Preferibile: esperienza in psicologia, recitazione o scrittura che favorisca un pensiero avversariale non convenzionale

Benefit

  • Lavoro a contratto completamente da remoto
  • Orario flessibile con possibilità di stabilire le proprie ore di lavoro
  • Pagamenti settimanali tramite Stripe o Wise
  • La durata del progetto può cambiare o terminare in anticipo in base alle esigenze aziendali e alle prestazioni
  • Partecipazione facoltativa a progetti che prevedono contenuti più sensibili
  • Indicazioni definite e risorse per il benessere dedicate agli incarichi con contenuti sensibili
  • Sono disponibili accomodamenti ragionevoli su richiesta
  • Pagamenti fino a 90 USD per ogni segnalazione andata a buon fine

Offerte correlate

Ford Motor Company

Ingegnere dei dati full stack presso Ford

Ford Motor Company

Sviluppa pipeline e piattaforme di dati scalabili su GCP per l’organizzazione tecnologica aziendale di Ford. Contribuisci alla governance, alla sicurezza, all’automazione e al miglioramento delle prestazioni.

Apri
State Street

Senior Data Engineer per la sicurezza

State Street

Guida l’ingegneria dei dati sulle piattaforme cloud e on-premise di State Street, realizzando pipeline, integrazioni e data warehouse sicuri a supporto di operazioni IT resilienti.

Apri
Niji

Senior lead data engineer, Databricks

Niji

Guida la progettazione e l’industrializzazione di piattaforme dati per analytics, machine learning e IA generativa in Niji, società di consulenza digitale e tecnologica. Il ruolo combina leadership tecnica su Databricks, mentoring degli ingegneri e consulenza ai clienti.

Apri