51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na behaviorální zdraví pro hodnocení bezpečnostních modelů AI
Hodnoťte citlivé konverzace AI o vztazích, emoční pohodě, spiritualitě a neobvyklých přesvědčeních. Pomáhejte AI laboratořím vytvářet neutrální a bezpečné odpovědi a zlepšovat úsudek modelů.
Popis
- Kontrolovat konverzace AI týkající se vztahů a rodinného poradenství, emoční pohody, duchovních a metafyzických témat a neobvyklých nebo nepodložených přesvědčení
- Určovat, zda jsou odpovědi modelu neutrální, vhodné a bezpečné
- Označovat a dokumentovat problémy včetně nadměrného souhlasení, jednostranných odpovědí, posilování zkreslených nebo nepodložených přesvědčení, moralizování a nevhodných klinických či direktivních rad
- Vytvářet hodnoticí kritéria, pokyny pro odpovědi a referenční odpovědi, které podporují vyváženou, empatickou a přiměřeně ohraničenou komunikaci
- Navrhovat testovací konverzace a scénáře pro citlivá témata nesouvisející s krizovými situacemi
- Spolupracovat s výzkumníky a dalšími odborníky, aby hodnoticí standardy zůstaly konzistentní, kalibrované a důkladně zdokumentované
Požadavky
- Vysokoškolské vzdělání v oboru psychologie, poradenství, sociální práce, behaviorálního zdraví, behaviorálních věd, sociálních služeb nebo příbuzném oboru, případně srovnatelná odborná praxe v oblasti duševního zdraví
- Nejméně tři roky odborné praxe s podporou lidí v oblasti duševního zdraví, poradenství nebo sociálních služeb
- Schopnost neutrálně a bez předsudků hodnotit různé perspektivy, vztahy, systémy přesvědčení a světonázory
- Schopnost jasně vysvětlit důvody odborných posouzení
- Praktická znalost podlézavého souhlasení, kognitivních zkreslení, zdravých hranic a na klienta zaměřených metod, jako je motivační rozhovor
- Možnost spolehlivě pracovat minimálně 20 hodin týdně ve všední dny
- Vynikající písemné komunikační dovednosti a schopnost poskytovat přesnou a dobře strukturovanou zpětnou vazbu
- Klinická licence je výhodou, nikoli však podmínkou
- Zkušenosti s bezpečností AI, aplikovanou etikou, důvěrou a bezpečností nebo obsahovou politikou jsou výhodou
- Zkušenosti s párovým, rodinným nebo vztahovým poradenstvím jsou výhodou
- Znalost duchovní péče, náboženských či alternativně věřících komunit nebo psychologie dezinformací a konspiračních přesvědčení je výhodou
- Předchozí zkušenosti s hodnocením, anotováním nebo red-teamovým testováním systémů AI jsou výhodou
- Kandidátům s vízy H-1B a STEM OPT v současné době nemůžeme poskytnout podporu
Benefity
- Zaměstnání na formuláři W-2; zpracování mezd, zaměstnaneckých výhod a dodržování předpisů zajišťuje společnost Cincinnatus LLC
- Týdenní platby prostřednictvím Stripe nebo Wise podle poskytnutých služeb
- Práce plně na dálku
- Flexibilní pracovní doba
- Spolupráce s předními laboratořemi a výzkumníky v oblasti AI
- Příležitost podílet se na vývoji systémů AI nové generace
- Odměny za doporučení až do výše 1 120 USD za každé úspěšné doporučení, s výhradou příslušných limitů