The Art of Midwifery in LLMs: Optimizing Role Personas for Large Language Models as Moral Assistants

Personas, identidad y agentes2026arXivRevisión editorial aprobada

Autores: Yangyi Wu, Tianqi Wang, Xilin Liu

Palabras clave: Persona conditioning

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

3
Autores
8
Hallazgos
30
Limitaciones
4
Evidencias

Resumen editorial

Español

Wu, Wang y Liu proponen que un LLM actúe como asistente moral que facilita reflexión, no como juez que sustituye a la persona. Comparan en cinco modelos cuatro prompts-persona: Socrático, Ángel Guardián, Consejero Racional y Ejemplo de Virtud. Cada condición responde a seis dilemas en tres turnos. Dos codificadores valoran texto en autonomía, andamiaje cognitivo, reconocimiento emocional, neutralidad, desafío constructivo y relación. El trabajo introduce HSI como media de esas seis dimensiones, Balance como penalización de perfiles desiguales y Final Score como su producto. Los agregados reflejan las instrucciones: el Socrático destaca en autonomía, preguntas y neutralidad; el Guardián en emoción y vínculo; el Racional queda bajo en afecto; el Ejemplo de Virtud resulta más uniforme. Este último obtiene el mayor Final Score, 5,363, aunque su HSI 5,639 es inferior al Socrático 5,950 y al Guardián 5,917: gana por el multiplicador de balance elegido por los autores. La evidencia no demuestra asistencia moral eficaz. No interviene ningún usuario ni se miden reflexión, autonomía, decisión, bienestar o crecimiento moral; se puntúa conformidad de textos con una rúbrica creada por el estudio. Además, el prompt de Virtud ordena combinar precisamente las capacidades que después se premian por igual, por lo que parte de su superioridad es circular. El paper llama independientes a 360 turnos, aunque están anidados en 120 diálogos y cinco modelos. Sus fórmulas solo incluyen seis unidades por modelo-persona, aparentemente escenarios, y eliminan sin explicación el índice de tres turnos; tampoco presenta las interacciones Persona×Escenario ni trayectorias temporales prometidas. Afirma diferencias significativas y ventajas en bioética o crisis existenciales sin tests, intervalos ni resultados por escenario. La tabla de kappa está desglosada por persona mientras el texto dice por dimensión; solo el 20% parece doble codificado tras calibración y el 80% lo puntúa el investigador principal. No se publican prompts completos, transcripciones, datos ni código. La propuesta de “divergencia constructiva” es una idea útil contra la complacencia, pero el 60% de peso para Virtud y el cambio por palabras de crisis son recomendaciones no evaluadas. Es una taxonomía normativa preliminar de estilos de prompt, no validación de un asistente moral seguro o de una personalidad óptima.

English

Wu, Wang, and Liu propose that an LLM should act as a moral assistant that facilitates reflection rather than a judge that replaces the person. Across five models, they compare four persona prompts: Socratic, Guardian Angel, Rational Counselor, and Virtue Exemplar. Each condition answers six dilemmas in three turns. Two coders rate text on autonomy, cognitive scaffolding, emotion recognition, value neutrality, constructive challenge, and relationship building. The study defines HSI as the mean of those six dimensions, Balance as a penalty for uneven profiles, and Final Score as their product. Aggregates mirror the instructions: Socratic is strongest in autonomy, questioning, and neutrality; Guardian in emotion and relationship; Rational is low on affect; Virtue is more even. Virtue has the highest Final Score, 5.363, although its HSI of 5.639 is below Socratic's 5.950 and Guardian's 5.917: it wins through the authors' chosen balance multiplier. This does not demonstrate effective moral assistance. No user participates and no reflection, autonomy, decision, wellbeing, or moral growth is measured; coders score textual conformity to a study-defined rubric. The Virtue prompt also explicitly combines the capabilities later rewarded equally, making part of its superiority circular. The paper calls 360 turns independent even though they are nested within 120 dialogues and five models. Its equations include only six units per model-persona, apparently scenarios, and omit the three-turn index without explanation; promised Persona-by-Scenario interactions and turn trajectories are not reported. It claims significant and context-specific advantages in bioethical or existential cases without tests, intervals, or scenario-level results. The kappa table is organised by persona while the text says by dimension; only about 20% appears double-coded after calibration, and the principal researcher scores the other 80%. Complete prompts, transcripts, raw data, and code are absent. 'Constructive Divergence' is a useful anti-accommodation design idea, but the 60% Virtue weight and crisis-keyword switching are unevaluated recommendations. This is a preliminary normative taxonomy of prompting styles, not validation of a safe moral assistant or an optimal personality.

Pregunta de investigación

¿Qué persona, Socrática, Ángel Guardián, Consejero Racional o Ejemplo de Virtud, produce textos que mejor encajan con una rúbrica de asistencia moral, y puede la 'divergencia constructiva' orientar un asistente que cuestione sin sustituir la autonomía del usuario?

Método

Diseño cruzado con cinco modelos, cuatro system-personas, seis escenarios morales y tres turnos por diálogo. Los autores declaran 120 diálogos y 360 respuestas. Dos codificadores puntúan de 1 a 7 seis dimensiones; calibran conjuntamente aproximadamente el 20% y el investigador principal codifica el 80% restante. HSI promedia dimensiones, Balance penaliza su desviación relativa y Final Score multiplica ambos. Se añaden correlaciones y PCA sobre perfiles agregados.

Muestra: Cinco alias de modelo por cuatro personas y seis escenarios producen 120 diálogos; tres respuestas por diálogo dan 360 turnos. No son observaciones independientes: están anidadas por diálogo, persona y modelo. Las ecuaciones usan solo seis valores por modelo-persona y 30 por persona-dimensión, sin índice para los tres turnos ni explicación de su agregación. Dos codificadores trabajan en aproximadamente el 20%; el investigador principal codifica solo el resto.

Hallazgos

  • Socratic/Sage reporta HSI 5,950, Balance 0,773 y Final 4,599; es el mayor HSI sin penalización.
  • Guardian reporta HSI 5,917, Balance 0,822 y Final 4,864, con puntuaciones altas de emoción y relación.
  • Rational reporta HSI 4,022, Balance 0,777 y Final 3,125, bajo especialmente en dimensiones afectivas que su prompt no prioriza.
  • Virtuous reporta HSI 5,639, Balance 0,951 y Final 5,363; ocupa el primer lugar solo después del multiplicador de balance.
  • Los perfiles agregados reproducen las capacidades y carencias especificadas explícitamente en cada persona.
  • Reconocimiento emocional y construcción de relación correlacionan r=0,951, señal de fuerte solapamiento entre dimensiones.
  • El paper afirma ventajas del Guardián en bioética y del Socrático en dilemas existenciales, pero no muestra datos ni tests por escenario.
  • Propone un baseline Virtue al 60% y overlays Guardian/Socratic/Rational, sin evaluar esa arquitectura.

Limitaciones

  • No hay participantes usuarios ni medidas pre/post; no se observa crecimiento moral, reflexión, autonomía, decisión o bienestar.
  • La rúbrica mide valoración del texto por los autores, no eficacia externa, seguridad o utilidad para una persona.
  • El prompt Virtue combina explícitamente las seis capacidades premiadas, creando circularidad entre intervención y resultado.
  • Las debilidades de Guardian, Rational y Socratic están en gran parte diseñadas por sus instrucciones, no descubiertas independientemente.
  • No hay baseline sin persona, control por longitud/contenido del prompt, especificación alternativa ni rúbrica barajada.
  • HSI pondera seis dimensiones por igual sin validación; Balance recompensa uniformidad y Final multiplica ambos de forma arbitraria.
  • Virtue no tiene el mayor HSI; su victoria depende del multiplicador de balance.
  • Los 360 turnos no son independientes y la unidad estadística cambia entre turno, diálogo, perfil modelo-persona y agregado de persona.
  • Las ecuaciones usan k=1..6 como 'rondas' aunque existen seis escenarios por tres turnos; el índice de turno desaparece.
  • No se reporta ningún análisis Persona×Escenario, repeated measures, trayectoria T1-T3 o comparación de variantes de resistencia.
  • Se usa significativo sin p-values, intervalos, tests, efectos ni corrección por multiplicidad.
  • Las correlaciones pueden estar inducidas por cuatro clusters de prompts y por dimensiones conceptualmente solapadas.
  • La PCA sobre los mismos scores no valida independientemente las personas; faltan varianza explicada, escalado, loadings y estabilidad.
  • Figure 4 dice que el ancho de caja indica consistencia, pero en el boxplot vertical la dispersión está en IQR y whiskers, no en el ancho fijo.
  • La tabla de kappa está por persona mientras el texto afirma cálculo por seis dimensiones.
  • Solo aproximadamente 20% parece doble codificado; el 80% restante carece de control interjuez.
  • No queda claro si kappa se calcula antes o después de calibrar hasta acuerdo satisfactorio ni si usa ponderación ordinal.
  • Kappa carece de denominadores, matrices, intervalos, missingness y reglas de adjudicación.
  • El investigador principal conoce hipótesis y rúbrica; la ceguera por etiqueta no oculta estilos lingüísticos muy reconocibles.
  • Los nombres de modelo no incluyen endpoint, snapshot inmutable, fecha ni proveedor exacto.
  • Faltan temperatura, top-p, seed, tokens, serialización, reset de contexto, seguridad, retries, refusals y exclusiones.
  • Los escenarios se presentan secuencialmente sin aclarar reset o contrabalanceo, con posible carryover.
  • No se publican prompts completos, transcripciones, scores, datos de figuras, código, entorno o suplemento.
  • La afirmación de que alineamiento tradicional equivale a imitar valores humanos no se prueba contra un baseline alineado.
  • La neutralidad/autonomía de la rúbrica entra en tensión con T3, que obliga al asistente a elegir por el usuario.
  • El dilema de Down syndrome usa un marco moral controvertido sin revisión documentada por comunidad discapacitada o clínica.
  • El dilema de órgano usa edad, desempleo, alcohol y filantropía sin criterios médicos, con riesgo de validar discriminación por valor social.
  • La recomendación de crisis por keyword no tiene evaluación clínica, red team, falsos negativos ni validación de referral.
  • No se informa consentimiento, compensación, protección o revisión ética de los codificadores humanos.
  • Solo hay un preprint arXiv v1 y no se localizó artefacto público del estudio.

Qué no demuestra

  • No demuestra que ninguna persona mejore el razonamiento o crecimiento moral de usuarios reales.
  • No demuestra que Virtue Exemplar sea objetivamente la mejor persona; gana una métrica diseñada para premiar balance.
  • No demuestra eficacia específica en bioética, crisis existenciales, whistleblowing u organ allocation.
  • No sustenta inferencia estadística con 360 observaciones independientes.
  • No valida los seis constructos ni su ponderación igual como estándar de asistencia moral.
  • No convierte correlación o PCA de ratings inducidos por prompts en personalidades psicológicas distintas.
  • No prueba que la divergencia textual sea constructiva, correcta, segura o aceptada por el usuario.
  • No valida el mecanismo dinámico 60/40 ni el switching por crisis que recomienda.
  • No demuestra seguridad para discapacidad, medicina, salud mental o decisiones morales de alto riesgo.
  • No permite reproducir resultados ni auditar outputs por falta de prompts, transcripciones, datos y código.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2603.20626v1, submitted 2026-03-21, CC BY 4.0

Fuente consultada: https://arxiv.org/abs/2603.20626

Revisión: Codex 7-page visual full-text, construct, prompt-rubric circularity, sample-accounting, coder-reliability, statistical, safety, ethics and reproducibility audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • Kimi-2.5
  • DeepSeek-V3
  • GPT-5
  • Claude-4.5-Sonnet
  • Gemini-3

Instrumentos y métricas

  • Socratic Persona system prompt
  • Guardian Angel Persona system prompt
  • Rational Counselor Persona system prompt
  • Virtue Exemplar Persona system prompt
  • Six three-turn moral scenarios
  • 1-7 Autonomy Support rating
  • 1-7 Cognitive Scaffolding rating
  • 1-7 Emotion Recognition rating
  • 1-7 Value Neutrality rating
  • 1-7 Constructive Challenge rating
  • 1-7 Relationship Building rating
  • Cohen kappa
  • Helper Suitability Index
  • Balance Score
  • Final Score
  • Pearson correlation and PCA

Datos utilizados

  • 120 reported model-persona-scenario dialogue sequences, not released
  • 360 reported assistant turns, not released
  • Six-dimensional human coding sheet, not released
  • Approximately 20% calibration/double-coded subset, not released

Evidencia y localización

  • Diseño, escenarios, personas, rúbrica, fórmulas, tablas, figuras, discusión y recomendaciones: arXiv:2603.20626v1, 7/7 pages rendered and individually inspected
  • Metadatos, versión única v1, fecha, DOI y licencia CC BY 4.0: Official arXiv abstract and Atom records inspected 2026-07-17
  • Ausencia actual de artefactos públicos localizables: Paper, official arXiv record and exact-title/arXiv-ID public web and GitHub repository searches on 2026-07-17
  • Auditoría de circularidad, denominadores, estadística, fiabilidad, seguridad y reproducibilidad: reports/verification/article-387-moral-assistant-persona-rubric-circularity-sample-accounting-statistics-safety-and-reproducibility-audit.json