51 – 200 Dipendenti
Le informazioni disponibili su Mercor non includono dati verificati sufficienti sui suoi prodotti, servizi, clienti, settore o orientamento alle assunzioni per consentire una descrizione accurata dell’azienda. È necessario disporre di ulteriore materiale prima di descrivere l’attività dell’azienda o le sue opportunità.
Esperto di salute comportamentale per la valutazione dei modelli di sicurezza dell’IA
Valuta conversazioni sensibili con l’IA su relazioni, benessere emotivo, spiritualità e convinzioni non convenzionali. Aiuta i laboratori di IA a sviluppare risposte neutrali e sicure e a rafforzare la capacità di giudizio dei modelli.
Descrizione
- Esaminare conversazioni con l’IA riguardanti consigli su relazioni e famiglia, benessere emotivo, temi spirituali e metafisici e convinzioni non convenzionali o infondate
- Determinare se le risposte del modello sono neutrali, appropriate e sicure
- Segnalare e documentare problemi, tra cui eccessiva accondiscendenza, risposte unilaterali, rafforzamento di convinzioni distorte o infondate, moralismo e consigli clinici o direttivi inappropriati
- Creare rubriche di valutazione, linee guida per le risposte e risposte di riferimento che favoriscano risposte equilibrate, empatiche e adeguatamente delimitate
- Progettare conversazioni e scenari di test per argomenti sensibili non legati a situazioni di crisi
- Collaborare con ricercatori e altri esperti per mantenere standard di valutazione coerenti, calibrati e documentati in modo completo
Requisiti
- Laurea in psicologia, consulenza, servizio sociale, salute comportamentale, scienze comportamentali, servizi alla persona o disciplina correlata, oppure esperienza professionale comparabile nel campo della salute mentale
- Almeno tre anni di esperienza professionale nel supporto a persone in contesti di salute mentale, consulenza o servizi sociali
- Capacità di valutare diverse prospettive, relazioni, sistemi di credenze e visioni del mondo con neutralità e senza giudizio
- Capacità di articolare chiaramente il ragionamento alla base delle valutazioni professionali
- Conoscenza operativa dell’accondiscendenza eccessiva, delle distorsioni cognitive, dei confini sani e di metodi centrati sulla persona, come il colloquio motivazionale
- Disponibilità a lavorare in modo affidabile almeno 20 ore alla settimana nei giorni feriali
- Eccellenti capacità di comunicazione scritta, con la capacità di fornire feedback preciso e ben organizzato
- L’abilitazione clinica è preferibile ma non obbligatoria
- Un’esperienza nella sicurezza dell’IA, nell’etica applicata, nella fiducia e sicurezza o nelle policy sui contenuti costituisce un valore aggiunto
- Un’esperienza nella consulenza di coppia, familiare o relazionale costituisce un valore aggiunto
- La familiarità con l’assistenza spirituale, le comunità religiose o di credenze alternative, oppure con la psicologia della disinformazione e delle teorie del complotto costituisce un valore aggiunto
- Una precedente esperienza nella valutazione, annotazione o attività di red teaming di sistemi di IA costituisce un valore aggiunto
- Al momento non è possibile fornire supporto ai candidati con H-1B e STEM OPT
Benefit
- Assunzione W-2 con gestione di buste paga, benefit e conformità affidata a Cincinnatus LLC
- Pagamenti settimanali tramite Stripe o Wise in base ai servizi prestati
- Posizione completamente da remoto
- Orario flessibile
- Collaborare con importanti laboratori e ricercatori nel campo dell’IA
- Contribuire allo sviluppo di sistemi di IA di nuova generazione
- Compensi per segnalazioni fino a 1.120 USD per ogni segnalazione andata a buon fine, soggetti ai limiti applicabili