Do LLMs Experience an Internal Polylogue? Investigating Reasoning through the Lens of Personas

Personas, identidad y agentes2026arXivRevisión editorial aprobada

Autores: Nils A. Herrmann, Leander Girrbach, Kirill Bykov, Zeynep Akata

Palabras clave: Reasoning personas, Persona vectors, Activation trajectories, MMLU-Pro, Semantic faithfulness, Functional faithfulness, Paragraph-conditioned steering, Sparse logistic regression, Mean Reciprocal Rank, Reasoning-time control

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

4: Autores
7: Hallazgos
16: Limitaciones
3: Evidencias

Resumen editorial

Español

El trabajo propone “polylogue” como la serie temporal de proyecciones entre activaciones internas y ocho direcciones sintéticas etiquetadas como Interpreter, Analyst, Planner, Solver, Explorer, Verifier, Monitor y Arbiter. En MMLU-Pro, estas señales contienen información sobre la corrección, pero su correspondencia semántica con etiquetas de párrafo asignadas por otro LLM es modesta: superan el baseline de frecuencia sólo en dos de cuatro modelos. La predicción de corrección resulta competitiva de forma desigual con ocho direcciones aleatorias y con un baseline PCA de la activación final. Un steering por párrafos mejora 0,8, 2,2 y 4,4 puntos en tres modelos, pero reduce 14,5 puntos Phi-4; al tener todos 504 preguntas, el cambio medio es -1,775 puntos. Además, control y tratamiento usan motores de generación distintos y el código aplica el vector una capa después de su locus de extracción, por lo que no queda aislada una causalidad específica del polylogue. “Polylogue” es una metáfora descriptiva: el estudio no demuestra experiencia, consciencia, agentes internos ni un diálogo literal.

English

The paper defines a “polylogue” as the time series of projections between hidden activations and eight synthetic directions labelled Interpreter, Analyst, Planner, Solver, Explorer, Verifier, Monitor and Arbiter. On MMLU-Pro these signals carry correctness information, but semantic correspondence with paragraph labels assigned by another LLM is modest: polylogue beats the empirical-frequency baseline in only two of four models. Correctness prediction is unevenly competitive with eight fixed random directions and a PCA last-activation baseline. Paragraph steering improves three models by 0.8, 2.2 and 4.4 points but harms Phi-4 by 14.5 points; because every model uses 504 questions, the mean change is -1.775 points. Control and treatment also use different generation engines, and the released code injects vectors one transformer stage after their extraction locus, so polylogue-specific causality is not isolated. “Polylogue” is a descriptive metaphor: the study does not demonstrate experience, consciousness, inner agents or a literal internal dialogue. The reported signals therefore remain model-, layer-, generator-, and intervention-specific, and require matched-engine controls before they can support a causal interpretation.

Pregunta de investigación

¿Pueden trayectorias temporales de alineamiento con ocho direcciones sintéticas de “persona de razonamiento” reflejar el contenido funcional de una cadena de razonamiento, predecir su corrección y servir como objetivos causales de steering durante la generación?

Método

Los autores generan vectores contrastivos para ocho etiquetas funcionales, proyectan sobre ellos activaciones token a token de cuatro modelos abiertos y agrupan las señales por párrafos. Evalúan fidelidad semántica mediante etiquetas de Llama-3.3-70B y MRR; fidelidad funcional con regresión logística L1 anidada sobre 186 rasgos y baselines aleatorio/PCA; y steering causal trasladando cinco coeficientes posicionales a intervalos de párrafos en un subconjunto MMLU-Pro no solapado. Esta revisión comprobó las 10 páginas, el TeX completo, las tablas, el repositorio oficial y su submódulo público.

Muestra: MMLU-Pro contiene 12.032 preguntas en 14 dominios. La fidelidad funcional usa 190 preguntas por dominio (2.660) y el steering causal 36 por dominio (504), en subconjuntos estratificados y no solapados. Cada uno de los cuatro modelos se evalúa sobre esas muestras. Las cantidades exactas de pares contrastivos retenidos para construir cada vector no se publican en el artículo.

Hallazgos

MRR semántico Polylogue/Frecuencia: Qwen 0,35/0,59; DeepSeek 0,51/0,50; Phi 0,54/0,49; Llama 0,47/0,51. Sólo DeepSeek y Phi superan el baseline de frecuencia.
AUC Polylogue/Aleatorio/Activación: Qwen 0,59/0,59/0,51; DeepSeek 0,81/0,78/0,84; Phi 0,87/0,84/0,85; Llama 0,76/0,70/0,76.
El baseline aleatorio es una sola extracción fija de ocho direcciones; las ventajas semánticas son 0 en Qwen, 0,03 en DeepSeek/Phi y 0,06 en Llama.
Steering: Qwen 63,3→64,1%; DeepSeek 62,3→64,5%; Phi 53,0→38,5%; Llama 44,4→48,8%.
Con 504 preguntas por modelo, el cambio medio de accuracy es -1,775 puntos, pese a mejorar el recuento tres de cuatro.
El conjunto causal no reutiliza las preguntas del entrenamiento funcional, una decisión metodológica positiva.
La metáfora polylogue describe señales proyectadas y no evidencia experiencia o agentes discretos.

Limitaciones

Ocho etiquetas sintéticas y forzadas a ser mutuamente exclusivas, sin validación humana, fiabilidad entre anotadores o taxonomía independiente.
El mismo Llama-3.3-70B participa en selección de configuración y etiquetado semántico.
Whitening y baseline de frecuencia ajustados sobre todo el corpus evaluado.
Una sola extracción de direcciones aleatorias; sin distribución de nulls repetidos.
Coeficientes de un refit completo e inputs temporales correlacionados interpretados como “qué persona importa”.
Veinte bins duplican párrafos en respuestas cortas y dependen del formato de dobles saltos de línea.
Sin repetición de splits, calibración, análisis por dominio o corrección por multiplicidad.
Control generado con vLLM y tratamiento con Transformers, sin control Transformers no-op.
Desfase de una capa entre output_hidden_states usado para extraer vectores y model.layers usado para steering.
El LogitsProcessor actualiza la máscara después del forward, no antes como afirma el apéndice.
La estrategia DeepSeek pide Interpreter positivo y negativo en intervalos distintos, pero el diccionario del código conserva un solo signo por rasgo.
Sin steering aleatorio, schedule permutado, no-op hook, intervalos, tests pareados ni semillas repetidas.
La explicación de la caída de Phi por “alta no linealidad” es especulativa.
Entorno sin lock, dependencias vacías en pyproject, rutas locales hardcoded, sin CI/tests/releases ni outputs exactos del paper.
El submódulo público usa una URL SSH que bloquea el clone recursivo sin clave GitHub.
El snapshot público auditado es posterior en cuatro días a arXiv v1 y no está congelado como release experimental.

Qué no demuestra

Que un LLM experimente, sea consciente o mantenga un diálogo interno literal.
Que existan ocho agentes, módulos o personas discretas dentro del modelo.
Personalidad psicométrica o equivalencia con episodios cognitivos humanos.
Que las ocho etiquetas sean la ontología natural o universal del razonamiento de LLMs.
Que la cadena de pensamiento visible sea una explicación causal fiel.
Ventaja semántica general sobre direcciones aleatorias o sobre la activación final.
Mejora media, robusta o segura del razonamiento entre modelos.
Causalidad específica de persona, párrafo o polylogue bajo motores y capas comparables.
Transferencia a otras tareas, familias, dominios o APIs black-box.
Reproducción independiente exacta de las tablas y resultados.
Aceptación en ICML 2026.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2605.09159v1; official code commit 0bac577390415a47c6094b8f68ceb58030083fb5

Fuente consultada: https://arxiv.org/abs/2605.09159v1

Revisión: Codex 10-page visual full-text, complete TeX, construct, semantic, frequency-baseline, prediction, steering-code and reproducibility audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

Qwen2.5-14B-Instruct
DeepSeek-R1-Distill-Qwen-14B
Phi-4-reasoning
Llama-3.1-Nemotron-Nano-8B-v1
Llama-3.3-70B-Instruct (annotation and persona-configuration judge)

Instrumentos y métricas

Contrastive response-mean persona vectors
Token-level activation projection trajectories
LLM single-label paragraph annotation
Mahalanobis whitening
Mean Reciprocal Rank
186-feature paragraph trajectory representation
Nested L1 logistic regression
128-component PCA activation baseline
Paragraph-conditioned activation steering

Datos utilizados

MMLU-Pro

Evidencia y localización

Texto, figuras, tablas, fórmulas y apéndice metodológico: arXiv:2605.09159v1; PDF sha256 9ec3c4edd7dae2b8f6e3825faaff9161a570a334796d6537f0368c22be10eefc; TeX sha256 820c357d87af18eedfa7aa6c46f4b48ddb9b39618d6b0910578ee9b88a6d8593
Implementación oficial de monitorización, predicción, steering y submódulo de vectores: https://github.com/nils-herrmann/polylogue commit 0bac577390415a47c6094b8f68ceb58030083fb5; persona_vectors commit 5089205503b25f3246c88373c3a0ca6b53c4db90
Recalculos de MRR, AUC, steering agregado, convenciones de capa, motores, signos y reproducibilidad: reports/verification/article-344-polylogue-reasoning-persona-construct-semantic-frequency-baseline-prediction-steering-code-and-reproducibility-audit.json