51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Odborník na behaviorálne zdravie pre hodnotenie bezpečnosti modelov AI
Hodnotenie citlivých rozhovorov s AI o vzťahoch, emocionálnej pohode, spiritualite a nekonvenčných presvedčeniach. Pomoc laboratóriám AI pri tvorbe neutrálnych a bezpečných odpovedí a lepšieho úsudku modelov.
Popis
- Preskúmavať rozhovory s AI týkajúce sa rád v oblasti vzťahov a rodiny, emocionálnej pohody, duchovných a metafyzických tém a nekonvenčných alebo nepodložených presvedčení
- Určovať, či sú odpovede modelu neutrálne, primerané a bezpečné
- Označovať a dokumentovať problémy vrátane nadmerného súhlasu, jednostranných odpovedí, posilňovania skreslených alebo nepodložených presvedčení, moralizovania a nevhodných klinických alebo direktívnych rád
- Vytvárať hodnotiace rubriky, usmernenia pre odpovede a referenčné odpovede, ktoré podporujú vyvážené, empatické a primerane ohraničené reakcie
- Navrhovať testovacie rozhovory a scenáre pre citlivé témy, ktoré nesúvisia s krízovými situáciami
- Spolupracovať s výskumníkmi a ďalšími odborníkmi na zachovaní konzistentných, kalibrovaných a dôkladne zdokumentovaných hodnotiacich štandardov
Požiadavky
- Vysokoškolské vzdelanie v odbore psychológia, poradenstvo, sociálna práca, behaviorálne zdravie, behaviorálne vedy, humanitné služby alebo príbuznom odbore, prípadne porovnateľné profesionálne skúsenosti v oblasti duševného zdravia
- Aspoň tri roky profesionálnych skúseností s podporou ľudí v oblasti duševného zdravia, poradenstva alebo sociálnych služieb
- Schopnosť neutrálne a bez odsudzovania hodnotiť rôzne perspektívy, vzťahy, systémy presvedčení a svetonázory
- Schopnosť jasne vysvetliť odôvodnenie odborných posúdení
- Praktická znalosť servilného súhlasenia, kognitívnych skreslení, zdravých hraníc a na klienta zameraných metód, ako je motivačný rozhovor
- Možnosť spoľahlivo pracovať počas pracovných dní minimálne 20 hodín týždenne
- Vynikajúce písomné komunikačné schopnosti a schopnosť poskytovať presnú a dobre usporiadanú spätnú väzbu
- Klinická licencia je vítaná, ale nie je podmienkou
- Skúsenosti s bezpečnosťou AI, aplikovanou etikou, dôverou a bezpečnosťou alebo obsahovou politikou sú výhodou
- Skúsenosti s párovým, rodinným alebo vzťahovým poradenstvom sú výhodou
- Znalosť duchovnej starostlivosti, náboženských alebo alternatívnych komunít presvedčenia alebo psychológie dezinformácií a konšpiračných presvedčení je výhodou
- Predchádzajúce skúsenosti s hodnotením, anotovaním alebo red-team testovaním systémov AI sú výhodou
- Kandidátom s vízami H-1B a STEM OPT v súčasnosti nie je možné poskytnúť podporu
Benefity
- Pracovný pomer W-2 so mzdovou agendou, benefitmi a dodržiavaním predpisov spravovanými prostredníctvom spoločnosti Cincinnatus LLC
- Týždenné platby prostredníctvom Stripe alebo Wise na základe poskytnutých služieb
- Plne vzdialená pozícia
- Flexibilný pracovný čas
- Spolupráca s poprednými laboratóriami a výskumníkmi v oblasti AI
- Príspevok k vývoju AI systémov novej generácie
- Odmeny za odporúčania až do výšky 1 120 USD za každé úspešné odporúčanie v súlade s príslušnými limitmi