51 – 200 Empleados
La información disponible sobre Mercor no incluye datos verificados suficientes sobre sus productos, servicios, clientes, sector o enfoque de contratación como para elaborar una descripción precisa de la empresa. Se necesita material adicional antes de describir la actividad de la empresa o sus oportunidades.
Experto en salud conductual para la evaluación de modelos de seguridad de IA
Evalúa conversaciones sensibles de IA sobre relaciones, bienestar emocional, espiritualidad y creencias no convencionales. Ayuda a los laboratorios de IA a desarrollar respuestas neutrales y seguras, así como un criterio más sólido para los modelos.
Descripción
- Revisar conversaciones de IA sobre consejos relacionados con parejas y familias, bienestar emocional, temas espirituales y metafísicos, y creencias no convencionales o sin fundamento
- Determinar si las respuestas del modelo son neutrales, apropiadas y seguras
- Señalar y documentar problemas, como el acuerdo excesivo, las respuestas unilaterales, el refuerzo de creencias distorsionadas o sin fundamento, la moralización y los consejos clínicos o directivos inapropiados
- Crear rúbricas de evaluación, pautas de respuesta y respuestas de referencia que favorezcan respuestas equilibradas, empáticas y adecuadamente delimitadas
- Diseñar conversaciones y escenarios de prueba para temas sensibles que no sean de crisis
- Trabajar con investigadores y otros expertos para mantener estándares de evaluación coherentes, calibrados y completamente documentados
Requisitos
- Título en psicología, asesoramiento, trabajo social, salud conductual, ciencias conductuales, servicios humanos o una disciplina relacionada, o experiencia profesional comparable en salud mental
- Al menos tres años de experiencia profesional apoyando a personas en entornos de salud mental, asesoramiento o servicios sociales
- Capacidad para evaluar con neutralidad y sin prejuicios diversas perspectivas, relaciones, sistemas de creencias y cosmovisiones
- Capacidad para explicar con claridad el razonamiento detrás de las evaluaciones profesionales
- Conocimientos prácticos sobre la complacencia excesiva, las distorsiones cognitivas, los límites saludables y métodos centrados en el cliente, como la entrevista motivacional
- Disponibilidad para trabajar de forma fiable un mínimo de 20 horas semanales entre semana
- Excelentes habilidades de comunicación escrita, con capacidad para proporcionar comentarios precisos y bien organizados
- Se prefiere contar con licencia clínica, pero no es obligatorio
- Se valorará la experiencia en seguridad de IA, ética aplicada, confianza y seguridad o políticas de contenido
- Se valorará la experiencia en terapia de pareja, familiar o de relaciones
- Se valorará la familiaridad con la atención espiritual, las comunidades religiosas o de creencias alternativas, o la psicología de la desinformación y las creencias conspirativas
- Se valorará la experiencia previa evaluando, anotando o realizando pruebas de seguridad de sistemas de IA
- Actualmente no se puede ofrecer apoyo a candidatos con H-1B y STEM OPT
Beneficios
- Empleo W-2 con nómina, beneficios y cumplimiento administrados a través de Cincinnatus LLC
- Pagos semanales mediante Stripe o Wise según los servicios prestados
- Puesto totalmente remoto
- Horario flexible
- Trabajar junto a laboratorios e investigadores líderes en IA
- Contribuir al desarrollo de sistemas de IA de próxima generación
- Pagos por referencias de hasta 1.120 USD por cada referencia exitosa, sujetos a los límites aplicables