Designing Personality-Adaptive Conversational Agents for Mental Health Care

Pregunta de investigación

¿Cómo deben diseñarse agentes conversacionales adaptativos a la personalidad para mejorar la interacción con usuarios en la atención de salud mental?

Método

Proyecto de ciencia del diseño iterativo con dos espacios. En el espacio del problema, los autores combinan el modelo de cinco factores, el paradigma Computers Are Social Actors, problemas del dominio y la literatura, y un cuestionario cualitativo abierto. Sesenta participantes vieron una explicación y un vídeo de un diálogo simulado con Botsociety y produjeron historias de usuario; los autores codificaron de forma independiente y resolvieron desacuerdos por consenso. En el espacio de solución, siete metarrequisitos se transformaron en principios de diseño siguiendo la anatomía de Gregor et al. Seis profesionales de salud mental los evaluaron mediante entrevistas semiestructuradas; las grabaciones se transcribieron y codificaron con MaxQDA 2020. El feedback refinó seis principios finales, que después se representaron en un diagrama conceptual de arquitectura. No hubo prototipo funcional, intervención terapéutica ni ensayo con pacientes.

Muestra: Cuestionario: 60 personas (32 hombres y 28 mujeres), de 23 a 71 años, media de 36, reclutadas en la red privada de los autores y Mechanical Turk en diciembre de 2020; la respuesta requirió aproximadamente 25–40 minutos y algunas personas no tenían experiencia con terapia de salud mental. Evaluación: seis expertos de la red personal de los autores, de 28 a 38 años y con 2–9 años de experiencia: cuatro psiquiatras con formación psicoterapéutica, una psicóloga y un trabajador social/terapeuta. Las entrevistas se realizaron entre marzo y abril de 2021 y duraron 50–80 minutos. No hubo muestra clínica sometida a un PACA funcional.

Hallazgos

• El proceso convierte problemas del dominio, problemas descritos por la literatura y respuestas del cuestionario en 28 historias de usuario, siete metarrequisitos y seis principios de diseño finales.
• Las historias de usuario se agrupan en apoyo, seguridad y comportamiento; incluyen disponibilidad continua, técnicas terapéuticas, supervisión humana, detección de señales de alarma, protección de datos y preferencias heterogéneas de estilo y personalidad.
• DP1, apoyo proactivo, recomienda disponibilidad 24/7 y contactos periódicos en una frecuencia acordada mutuamente con el usuario.
• DP2, competencia, requiere conocimiento específico del dominio y técnicas terapéuticas para que el usuario perciba comprensión y capacidad.
• DP3, transparencia, exige comunicar asuntos de seguridad y privacidad para favorecer confianza al compartir datos sensibles.
• DP4, rol social, permite escoger entre roles como amigo o terapeuta y cambiar de rol cuando ello favorezca el progreso terapéutico.
• DP5, antropomorfismo, deja al usuario elegir entre chatbot, asistente de voz o agente encarnado y, con ello, el grado de apariencia humana.
• DP6, adaptación de personalidad, propone señales lingüísticas ligadas a dimensiones de personalidad para adaptar el agente a la personalidad preferida del usuario y aumentar la calidad de interacción.
• Los tres primeros principios se presentan como prerrequisitos generales de un agente de salud mental; rol, antropomorfismo y personalidad aportan personalización, y los autores consideran DP6 el rasgo necesario para hablar de PACA.
• Los expertos juzgaron la adaptación de personalidad como el principio más importante, pero pidieron que el agente pudiera cambiar su personalidad, sacar al usuario de su reserva y no convertirse en alguien que siempre complace.
• Para personas con esquizofrenia o paranoia, los expertos advirtieron que un contacto proactivo no solicitado puede sentirse intrusivo; por eso la periodicidad debe acordarse con usuario o terapeuta.
• Cuatro expertos expresaron dudas sobre que un PACA pueda recrear la riqueza de una conversación con un terapeuta humano.
• La transparencia sobre privacidad y seguridad fue considerada fundamental para generar confianza con datos de salud mental.
• Los expertos observaron que un rol de amigo puede evitar preguntas difíciles y que ciertos roles o géneros pueden desencadenar miedo o agresividad; el rol adecuado depende de persona y situación.
• La antropomorfización puede mejorar la interacción de algunos usuarios, pero también aumentar dependencia o rechazo, por lo que el artículo propone que el usuario controle el formato.
• El panel insistió en involucrar profesionales de psicoterapia en el diseño y en mantener supervisión humana para casos graves; el PACA se plantea como herramienta complementaria.
• Los propios expertos indicaron que no podían juzgar por completo los principios sin experimentar un sistema real.
• La instanciación expositiva separa interfaz conversacional, servicio de bot, lógica de aplicación, base de datos, inferencia de personalidad e interfaz profesional; es una representación transferible, no una implementación.
• El diagrama recomienda texto, voz y posible cuerpo virtual, además de una interfaz profesional para supervisión, y menciona cifrado y autenticación multifactor para los datos sensibles.
• La afirmación de que materializar los principios podría mejorar la interacción es una expectativa de diseño derivada del proceso cualitativo, no un resultado medido en usuarios de un PACA.

Limitaciones

• El estudio no construye el PACA descrito: la única materialización es un mock-up de conversación y una instanciación expositiva en forma de diagrama.
• No se administra ningún inventario Big Five ni se mide la personalidad de participantes, expertos o agentes.
• No se implementa ni valida un sistema de inferencia de personalidad a partir de lenguaje; LIWC, embeddings y servicios comerciales son solo ejemplos de arquitectura.
• No se especifica cómo traducir una estimación Big Five a señales lingüísticas, decisiones terapéuticas o cambios de rol reproducibles.
• No se definen precisión mínima, incertidumbre, cantidad de texto necesaria, corrección por el usuario, exclusión voluntaria, deriva temporal ni manejo de perfiles contradictorios.
• No hay evaluación con pacientes usando un PACA, medidas de síntomas, calidad de interacción, alianza terapéutica, adherencia, daño, crisis o resultados clínicos.
• No existe condición comparativa, aleatorización, seguimiento longitudinal, análisis cuantitativo ni estimación de efectos.
• Los 60 participantes evaluaron una idea hipotética después de una explicación extensa y un vídeo diseñado por los autores; esa preparación puede inducir expectativas y no equivale a experiencia de uso.
• El reclutamiento por red privada y Mechanical Turk es de conveniencia; el texto no caracteriza país, cultura, educación, diagnóstico, historia clínica ni otros factores de representatividad.
• Algunas personas no tenían experiencia con terapia, una elección coherente con la población no clínica pretendida pero que limita las historias de usuario sobre atención real.
• El artículo no informa compensación del cuestionario, tasa de abandono, exclusiones, saturación teórica ni distribución entre red privada y Mechanical Turk.
• Aunque los autores dicen haber codificado independientemente y resuelto discrepancias por consenso, no informan número de codificadores, libro de códigos, ejemplos completos, fiabilidad intercodificador ni auditoría externa.
• Las 28 historias de usuario son agregaciones de menciones; el artículo no ofrece frecuencias completas ni datos brutos para valorar prevalencia o interpretaciones alternativas.
• El panel contiene solo seis expertos reclutados de la red personal de los autores, todos de 28–38 años y con menos de diez años de experiencia.
• El panel no incluye pacientes, cuidadores, especialistas en privacidad o ciberseguridad, ética, regulación sanitaria, accesibilidad, prevención del suicidio ni evaluación de IA.
• Los expertos evaluaron descripciones de principios después de una explicación del concepto; no observaron funcionamiento, errores, inferencias de personalidad o conversaciones clínicas reales.
• El estudio no reporta aprobación de un comité ético, consentimiento informado o fundamento de exención para cuestionarios, vídeo e entrevistas; la sección de declaraciones solo informa financiación y ausencia de conflicto.
• No se ofrece repositorio de datos, transcripciones, cuestionario completo, guía de entrevista, código de análisis o artefacto ejecutable para reproducción independiente.
• DP1 no desarrolla límites para contactos proactivos, horarios, pausas, consentimiento revocable o protocolos específicos para paranoia, manía, violencia o riesgo suicida.
• DP2 exige competencia, pero no define fuentes clínicas, validación de contenido, actualización, trazabilidad, responsabilidad profesional o gestión de respuestas inseguras.
• DP3 se limita a transparencia, cifrado y autenticación multifactor; no especifica minimización, finalidad, retención, borrado, acceso, auditoría, brechas, terceros, residencia de datos o consentimiento granular.
• DP4 incluye el rol de terapeuta sin desarrollar salvaguardas contra engaño de rol, sobreconfianza, atribución de autoridad clínica o conflicto entre preferencia y beneficio.
• DP5 reconoce dependencia y uncanny valley, pero no propone límites medibles para antropomorfismo, apego emocional o sustitución de relaciones humanas.
• DP6 puede reforzar sesgos o estereotipos si asocia rasgos con lenguaje de forma simplista; no se evalúan equidad cultural, multilingüismo, discapacidad, edad o diferencias demográficas.
• La arquitectura sugiere que la base de datos aprende de interacciones de todos los usuarios, pero no especifica aislamiento, consentimiento de entrenamiento, anonimización, contaminación entre usuarios o derecho de oposición.
• La interfaz profesional se dibuja sin definir responsabilidades, carga de supervisión, alertas, escalado, disponibilidad o qué ocurre cuando no hay profesional conectado.
• Los seis principios mezclan requisitos generales de cualquier agente de salud mental con adaptación de personalidad; solo DP6 articula directamente esa adaptación.
• Las tecnologías nombradas son ejemplos de 2022 y no constituyen una pila seleccionada, versionada o evaluada; el diseño depende de servicios de terceros sin analizar disponibilidad o cambios.
• El trabajo sostiene que las ventajas pueden superar los riesgos si el sistema se diseña adecuadamente, pero no aporta una validación de seguridad que permita hacer ese balance empírico.
• La evaluación cualitativa respalda relevancia percibida de principios, no la afirmación causal de que materializarlos aumentará interacción o mejorará atención.

Qué no demuestra

• No demuestra que exista un PACA funcional con las capacidades descritas.
• No demuestra que un agente pueda inferir de forma válida o fiable la personalidad de un paciente a partir de sus mensajes.
• No valida correspondencia entre señales lingüísticas, dimensiones Big Five y necesidades terapéuticas individuales.
• No prueba que adaptar la personalidad aumente calidad de interacción, confianza, adherencia, alianza terapéutica o satisfacción.
• No prueba reducción de ansiedad, depresión, soledad, crisis, tiempos de espera ni ningún otro resultado de salud mental.
• No demuestra seguridad clínica, capacidad de detectar señales de alarma o respuesta adecuada ante suicidio, psicosis, manía, abuso o emergencia.
• No establece que los PACA puedan reemplazar psicólogos, psiquiatras, psicoterapeutas o relaciones humanas; el texto los plantea como apoyo complementario.
• No demuestra que disponibilidad 24/7 o contactos proactivos sean beneficiosos para todas las personas; los expertos identifican casos en que podrían perjudicar.
• No demuestra que adoptar el rol preferido del usuario sea terapéuticamente correcto ni que un rol de terapeuta resulte seguro.
• No prueba que un mayor antropomorfismo sea mejor ni que se puedan evitar dependencia, aislamiento o apego emocional.
• No demuestra que cifrado y autenticación multifactor basten para privacidad, cumplimiento normativo o gobernanza responsable de datos de salud.
• No valida ninguna de las plataformas, bibliotecas o técnicas citadas como componente clínico de un PACA.
• No ofrece evidencia de generalización a culturas, idiomas, edades, diagnósticos, sistemas sanitarios o poblaciones distintas de la muestra de conveniencia.
• No cuantifica cuánto contribuye cada principio ni si los seis juntos son necesarios o suficientes.
• No prueba causalmente que la personalidad sea la razón de las limitaciones de agentes conversacionales contemporáneos.
• No establece una evaluación regulatoria, ética, de seguridad informática o de producto sanitario.
• No convierte la percepción favorable de seis expertos sobre principios en evidencia de eficacia de un sistema.
• No permite interpretar la frase del abstract sobre una fuente prometedora de apoyo como resultado de un ensayo clínico o de uso real.

Trazabilidad

Alcance: Texto completo

Versión: Information Systems Frontiers 24:923–943; published online 2 March 2022; PMC8889396.1

Fuente consultada: https://pmc-oa-opendata.s3.amazonaws.com/PMC8889396.1/PMC8889396.1.pdf

Revisión: Codex full-text, bilingual-fidelity, visual, metadata, design-science, qualitative-method, clinical-claim, personality-adaptivity, architecture, privacy, safety, ethics and evidence-level audit, 2026-07-15

Aprobación: Codex fidelity pass, 2026-07-15

Modelos evaluados

• Five Factor Model / Big Five (kernel theory, not administered as a measure)
• Computers Are Social Actors paradigm (kernel theory)
• Botsociety mock-up of Raffi and Jules (stimulus only)
• Technology-independent expository PACA architecture (conceptual blueprint only)
• LIWC, word2vec, GloVe and IBM Watson Personality Insights (illustrative personality-mining options, not implemented or evaluated)
• Google Dialogflow, IBM Watson Assistant, Amazon Lex and Wit.ai (illustrative bot services, not implemented or evaluated)

Instrumentos y métricas

• Open qualitative questionnaire on support, safety/privacy, behaviour and communication preferences
• Predefined Botsociety conversation video and mock-up featuring Raffi and Jules
• Qualitative content analysis of user stories
• Semi-structured expert interview guide
• MaxQDA 2020 for coding expert interview transcripts
• Gregor et al. design-principle anatomy
• Expository instantiation and mapping diagrams

Datos utilizados

• More than 6,865 words of open-questionnaire responses from 60 participants
• Twenty-eight aggregated user stories across support, safety and behaviour
• Six audio-recorded and transcribed expert interviews
• Application-domain issues, literature issues, seven meta-requirements and six design principles
• No public raw-data or code repository reported in the article

Evidencia y localización

• Identidad bibliográfica, autoría, fecha, DOI y abstract completo: Full text p. 1, title page and abstract; Information Systems Frontiers 24:923–943, DOI 10.1007/s10796-022-10254-9
• Pregunta de investigación y teorías de base: Full text pp. 2–3, Introduction and section 2
• Proceso de ciencia del diseño y pasos del estudio: Full text pp. 5–6, section 4 and Figure 1
• Cuestionario, Botsociety, reclutamiento, n=60 y 6.865 palabras: Full text pp. 7–8, Step 1 qualitative study, Table 1 and Figure 2
• Codificación independiente y consenso: Full text p. 7, qualitative content analysis procedure
• Selección de expertos, composición, fechas y duración: Full text pp. 8–9, expert evaluation and Table 2
• Guía semiestructurada, transcripción y MaxQDA 2020: Full text p. 8, expert interview procedure
• Historias de usuario, problemas y siete metarrequisitos: Full text pp. 9–11, section 5.1 and Tables 3–4
• Evaluación y revisión de apoyo proactivo, competencia y transparencia: Full text pp. 11–12, evaluation of DP1–DP3
• Evaluación y revisión de rol social, antropomorfismo y adaptación de personalidad: Full text pp. 12–14, evaluation of DP4–DP6
• Redacción final de los seis principios: Full text p. 14, Table 5
• Arquitectura expositiva y carácter independiente de tecnología: Full text pp. 14–16, section 5.2 and Figure 3
• Servicios de bot y técnicas de inferencia citados como posibilidades: Full text pp. 15–16, expository instantiation
• Cifrado, autenticación multifactor e interfaz profesional: Full text pp. 15–16, Figure 3 and database description
• Clasificación de principios y apoyo complementario con supervisión humana: Full text p. 16, section 6.1
• Limitaciones reconocidas de participantes y panel experto: Full text p. 17, section 6.2
• Riesgos de aislamiento, apego, terceros y dependencia del proveedor: Full text p. 17, Limitations and Ethical Considerations
• Alcance real: principios refinados y diagrama, sin sistema probado: Full text p. 17, Conclusion
• Financiación y conflicto de interés; ausencia de declaración ética específica: Full text p. 18, Funding and Declarations
• Inspección visual: All 21 PDF pages rendered and visually inspected, including Figures 1–4 and Tables 1–5; checked 15 Jul 2026