Эксперт по поведенческому здоровью для оценки моделей безопасности ИИ
Оценивайте деликатные диалоги ИИ о взаимоотношениях, эмоциональном благополучии, духовности и нетрадиционных убеждениях. Помогайте лабораториям ИИ разрабатывать нейтральные и безопасные ответы, повышая качество рассуждений моделей.
Описание
- Проверять диалоги ИИ, посвящённые отношениям и семейным вопросам, эмоциональному благополучию, духовным и метафизическим темам, а также нетрадиционным или необоснованным убеждениям
- Определять, являются ли ответы модели нейтральными, уместными и безопасными
- Выявлять и документировать проблемы, включая чрезмерное соглашательство, односторонние ответы, подкрепление искажённых или необоснованных убеждений, морализаторство, а также неуместные клинические рекомендации или указания к действию
- Создавать критерии оценки, рекомендации по ответам и эталонные ответы, поддерживающие взвешенную, эмпатичную и корректно ограниченную коммуникацию
- Разрабатывать тестовые диалоги и сценарии для деликатных вопросов, не связанных с кризисными ситуациями
- Работать с исследователями и другими экспертами, чтобы стандарты оценки оставались единообразными, согласованными и тщательно задокументированными
Требования
- Высшее образование в области психологии, консультирования, социальной работы, поведенческого здоровья, поведенческих наук, социальных услуг или смежной дисциплины либо сопоставимый профессиональный опыт в сфере психического здоровья
- Не менее трёх лет профессионального опыта поддержки людей в сфере психического здоровья, консультирования или социальных услуг
- Умение нейтрально и без осуждения оценивать различные точки зрения, отношения, системы убеждений и мировоззрения
- Умение ясно объяснять обоснование профессиональных оценок
- Практическое понимание соглашательства, когнитивных искажений, здоровых границ и ориентированных на клиента методов, таких как мотивационное интервьюирование
- Готовность стабильно работать не менее 20 часов в неделю по будням
- Отличные навыки письменной коммуникации и способность предоставлять точную, хорошо структурированную обратную связь
- Наличие клинической лицензии приветствуется, но не является обязательным
- Опыт в сфере безопасности ИИ, прикладной этики, доверия и безопасности или контентной политики будет преимуществом
- Опыт консультирования пар, семей или по вопросам отношений будет преимуществом
- Знакомство с духовной поддержкой, религиозными или альтернативными сообществами убеждений либо с психологией дезинформации и конспирологических убеждений будет преимуществом
- Опыт оценки, аннотирования или проведения red team-тестирования систем ИИ будет преимуществом
- В настоящее время мы не можем поддерживать кандидатов с визами H-1B и STEM OPT
Преимущества
- Трудоустройство по форме W-2; расчёт заработной платы, льготы и соблюдение требований законодательства администрируются через Cincinnatus LLC
- Еженедельные выплаты через Stripe или Wise в зависимости от оказанных услуг
- Полностью удалённая работа
- Гибкий график
- Работа с ведущими лабораториями и исследователями в области ИИ
- Участие в разработке систем ИИ следующего поколения
- Реферальные выплаты до 1120 долларов США за каждого успешного кандидата с учётом применимых ограничений