Експерт із поведінкового здоров’я для оцінювання моделей безпеки ШІ
Оцінюйте делікатні діалоги ШІ про стосунки, емоційне благополуччя, духовність і нетипові переконання. Допомагайте лабораторіям ШІ розробляти нейтральні, безпечні відповіді та вдосконалювати судження моделей.
Опис
- Переглядати діалоги ШІ про стосунки й сімейні питання, емоційне благополуччя, духовні та метафізичні теми, а також нетипові або необґрунтовані переконання
- Визначати, чи є відповіді моделі нейтральними, доречними та безпечними
- Виявляти й документувати проблеми, зокрема надмірне підтакування, однобічні відповіді, посилення викривлених або необґрунтованих переконань, моралізаторство, а також недоречні клінічні чи директивні поради
- Створювати критерії оцінювання, рекомендації щодо відповідей і еталонні відповіді, які підтримують збалансовану, емпатійну та належно обмежену комунікацію
- Розробляти тестові діалоги й сценарії для делікатних питань, не пов’язаних із кризовими ситуаціями
- Працювати з дослідниками та іншими експертами, щоб стандарти оцінювання залишалися послідовними, узгодженими й ретельно задокументованими
Вимоги
- Диплом із психології, консультування, соціальної роботи, поведінкового здоров’я, поведінкових наук, соціальних послуг або суміжної дисципліни чи зіставний професійний досвід у сфері психічного здоров’я
- Щонайменше три роки професійного досвіду підтримки людей у сфері психічного здоров’я, консультування або соціальних послуг
- Здатність нейтрально й без осуду оцінювати різні погляди, стосунки, системи переконань і світогляди
- Здатність чітко пояснювати обґрунтування професійних оцінок
- Практичне розуміння підтакування, когнітивних викривлень, здорових меж і клієнтоцентричних методів, таких як мотиваційне інтерв’ювання
- Готовність надійно працювати щонайменше 20 годин на тиждень у будні
- Відмінні навички письмової комунікації та здатність надавати точний, добре організований зворотний зв’язок
- Клінічна ліцензія бажана, але не обов’язкова
- Досвід у сфері безпеки ШІ, прикладної етики, довіри й безпеки або контентної політики буде перевагою
- Досвід консультування пар, сімей або з питань стосунків буде перевагою
- Знайомство з духовною опікою, релігійними чи альтернативними спільнотами переконань або психологією дезінформації та конспірологічних переконань буде перевагою
- Попередній досвід оцінювання, анотування або red team-тестування систем ШІ буде перевагою
- Наразі ми не можемо підтримувати кандидатів із візами H-1B і STEM OPT
Переваги
- Працевлаштування за формою W-2; нарахування зарплати, пільги та дотримання вимог законодавства адмініструються через Cincinnatus LLC
- Щотижневі виплати через Stripe або Wise залежно від наданих послуг
- Повністю віддалена робота
- Гнучкий графік
- Робота з провідними лабораторіями та дослідниками у сфері ШІ
- Участь у розробленні систем ШІ наступного покоління
- Реферальні виплати до 1120 доларів США за кожну успішну рекомендацію з урахуванням застосовних обмежень