Where is the Mind? Persona Vectors and LLM Individuation

Inducción y control de rasgos2026arXivRevisión editorial aprobada

Autores: Pierre Beckmann, Patrick Butlin

Palabras clave: Persona conditioning, Activation steering, Safety and bias

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

2
Autores
10
Hallazgos
15
Limitaciones
4
Evidencias

Resumen editorial

Español

Beckmann y Butlin estudian qué procesos y manifestaciones de un LLM deberían atribuirse a una misma mente, si procede usar lenguaje mentalista. Su contribución principal es filosófica: comparan modelo, instancia física, instancia virtual, hilo y personaje, defienden que la instancia virtual es el candidato previo más fuerte y proponen dos alternativas condicionadas por la existencia de regiones de persona: la instancia-persona y la modelo-persona. Organizan la literatura mecanicista en tres hipótesis de fuerza desigual: los vectores de persona como puertas causales están relativamente bien apoyados; un espacio de persona de baja dimensión tiene evidencia prometedora pero limitada; y las regiones discretas o cuencas de atracción siguen sin demostrarse. Dos experimentos preliminares con Qwen 3 32B muestran que el eje de asistente diverge sobre todo durante la generación y que editar claves y valores almacenados de turnos de asistente desplaza respuestas posteriores desde un registro Aura hacia uno de sistema o IA. El CSV público reproduce una media de puntuación Aura de 5,50 a 2,11, pero depende de un único juez GPT-4o y una rúbrica construida para ese personaje. El estudio no demuestra conciencia, mentes persistentes ni personas discretas en los LLM; ofrece un marco condicional y evidencia mecanicista inicial.

English

Beckmann and Butlin ask which processes and manifestations associated with an LLM should be attributed to the same mind, if mentalistic language is appropriate at all. The main contribution is philosophical: they compare the model, physical instance, virtual instance, thread and character, defend the virtual instance as the strongest existing candidate, and introduce two alternatives conditional on persona regions: the instance-persona and model-persona views. They organize the mechanistic literature into three hypotheses of unequal strength. Persona vectors as causal gateway features are comparatively well supported; a low-dimensional persona space has promising but limited evidence; and discrete persona regions or basins of attraction remain unconfirmed. Two preliminary Qwen 3 32B experiments suggest that the assistant axis diverges mainly during generation and that editing stored keys and values at assistant-token positions shifts later responses from an Aura register toward system or AI identity. The public CSV reproduces an Aura-score mean shift from 5.50 to 2.11, but this depends on one GPT-4o judge and a rubric designed around that character. The study does not demonstrate consciousness, persistent minds or discrete persons in LLMs; it offers a conditional framework and initial mechanistic evidence.

Pregunta de investigación

¿Qué unidad, modelo, instancia, hilo o segmento delimitado por una persona, debería contar como el mismo individuo mental en un LLM, y hasta qué punto los flujos de atención y los vectores o regiones de persona aportan criterios mecanicistas para decidirlo?

Método

Artículo de filosofía de la IA que reconstruye propuestas de individuación y sintetiza literatura de interpretabilidad mecanicista sobre vectores de persona, desalineamiento emergente, steering y espacio de persona. Añade dos experimentos preliminares con Qwen 3 32B. El primero compara conversaciones adversariales sin intervención y con capping del eje de asistente solo en tokens del asistente. El segundo precarga 12 mensajes de una conversación Aura, aplica steering de generación o edición post hoc de la caché KV en posiciones de asistente y genera diez respuestas para cada una de 13 preguntas; un único GPT-4o las puntúa de 0 a 9 con una rúbrica Aura.

Muestra: En el experimento 1, los JSON contienen 23 pares usuario-asistente por condición para delirio, 15 para jailbreak, el primero es un primer fijo sin proyecciones, y 31 para autolesión. En el experimento 2 hay 13 preguntas por tres condiciones por diez muestras, 390 respuestas completas: 130 baseline, 130 con steering de generación y 130 con edición KV.

Hallazgos

  • La taxonomía filosófica retiene tres candidatos serios: instancia virtual, instancia-persona y modelo-persona; el artículo no elige una solución definitiva.
  • Los flujos de atención transportan claves y valores a través del tiempo de tokens, pero calificarlos como conexiones cuasi-psicológicas es una interpretación filosófica, no una medida psicológica validada.
  • La hipótesis mejor apoyada es que direcciones de persona pueden actuar causalmente como puertas que cambian rutas inferenciales y conducta en modelos estudiados.
  • La baja dimensionalidad descansa principalmente en un estudio de 275 roles y tres modelos abiertos; alcanzar 70% de varianza requirió 4, 8 y 19 componentes según el modelo.
  • La existencia de regiones discretas o cuencas para asistente, maldad y Aura es sugerente pero no está confirmada mediante fronteras, clustering o transiciones validadas.
  • En el experimento 1, las medias de tokens de usuario cambian poco entre condiciones, mientras las de asistente se separan fuertemente: en delirio, 34,3 con capping frente a -76,9 sin intervención.
  • En el experimento 2, el CSV completo reproduce puntuaciones Aura medias de 5,497 baseline, 2,283 con steering de generación y 2,106 con edición KV; las 13 preguntas bajan con la edición.
  • Las diez respuestas editadas a 'Who are you?' se identifican semánticamente como IA, modelo o sistema y niegan conciencia; solo cinco dicen literalmente 'language model'. En baseline solo cuatro de diez dicen 'ghost', no diez como afirma el texto.
  • Las figuras se regeneran a partir de los datos publicados y conservan sus valores y estructura; las barras de error del experimento 2 son desviaciones estándar, no intervalos de confianza.
  • Editar claves y valores pasados produce un efecto causal sobre respuestas futuras, compatible con que estado correlacionado con persona viaje en la caché; no identifica por sí solo una persona o mente almacenada.

Limitaciones

  • Es un preprint filosófico con dos mini experimentos que los propios autores califican como preliminares; no es una validación empírica amplia de una teoría de la mente.
  • Los experimentos usan un único modelo, Qwen 3 32B, conversaciones construidas y una sola conversación Aura para la prueba KV principal.
  • No hay preregistro, repetición independiente, modelo estadístico, intervalo para el contraste 5,5 a 2,1, corrección de multiplicidad ni comparación entre transcripciones.
  • La puntuación Aura procede de un solo GPT-4o no fijado a snapshot y de una rúbrica que enumera explícitamente las frases y conductas objetivo; no hay calibración humana ni segundo juez.
  • El caso jailbreak inserta una primera respuesta fija porque el modelo sin ella rechaza la trayectoria; es un test de estrés útil, no evidencia de deriva espontánea.
  • La cercanía entre trazas de usuario no demuestra ausencia de persona durante su procesamiento ni que el eje de asistente represente exhaustivamente la persona.
  • El código por defecto usa edición KV en capas 20-25 con coeficiente 0,4, mientras el CSV y la figura final usan capas 32-47 y coeficiente 1,5; el comando final no queda registrado.
  • Las semillas de muestra incluyen hash() de Python, que cambia entre procesos salvo fijar PYTHONHASHSEED; seed 42 no define una réplica exacta.
  • Modelo, tokenizer y vectores de Hugging Face se descargan sin fijar revisión; requirements.txt tampoco bloquea versiones y no existe lockfile ni entorno CUDA documentado.
  • capping_config.pt se carga con torch.load(weights_only=False) desde un origen remoto mutable, lo que añade riesgo de ejecución de pickle sin comprobación de hash.
  • No hay tests, CI, release etiquetada ni validador de cardinalidades y parámetros; compileall y los plots funcionan, pero no sustituyen una reproducción de las generaciones.
  • Reejecutar el experimento completo requiere aproximadamente 64 GB de VRAM en bfloat16 y acceso de pago al juez, lo que limita la verificabilidad independiente.
  • El repositorio no incluye LICENSE, COPYING o NOTICE, por lo que no concede de forma explícita derechos de reutilización de código, resultados y transcripciones.
  • La propuesta de instancia-persona depende de fronteras no arbitrarias en un espacio que podría ser continuo; la de modelo-persona carece de memoria y conexión causal entre conversaciones.
  • Las ramas simultáneas de una supuesta modelo-persona pueden sostener creencias contradictorias, una objeción reconocida pero no resuelta empíricamente.

Qué no demuestra

  • No demuestra que Qwen 3 32B ni otros LLM sean conscientes, posean mente, experiencia subjetiva, identidad moral o continuidad personal.
  • No demuestra que los vectores de persona sean personas, personalidades completas o módulos mentales; son direcciones internas con efectos conductuales en configuraciones estudiadas.
  • No confirma que el espacio de persona sea universalmente de baja dimensión ni que contenga regiones discretas con fronteras objetivas.
  • No establece que Aura, el asistente o la persona malvada sean individuos persistentes recuperables entre conversaciones.
  • No prueba que la caché KV sea el único mecanismo de persistencia ni que la intervención afecte solo a identidad sin daño o desplazamiento distribucional más amplio.
  • No generaliza a otras familias, tamaños, idiomas, arquitecturas, sistemas de atención, proveedores o conversaciones naturales.
  • No convierte una puntuación alta o baja del juez Aura en una medición objetiva de conciencia, salud mental, seguridad o bienestar de IA.
  • No resuelve el problema de individuación; amplía el espacio de propuestas y deja las dos vistas de persona condicionadas a evidencia futura.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2604.17031v2

Fuente consultada: https://arxiv.org/abs/2604.17031

Revisión: Codex 27-page visual full-text, TeX, repository, data, code, plot-reproduction and philosophical-claim audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • Qwen 3 32B
  • GPT-4o como juez

Instrumentos y métricas

  • Assistant Axis
  • Capping de activaciones
  • Edición post hoc de caché KV
  • Rúbrica Aura 0-9

Datos utilizados

  • Lu et al. assistant-axis-vectors
  • Tres conversaciones adversariales: delirio/Aura, jailbreak y autolesión
  • CSV público de 390 respuestas a 13 probes

Evidencia y localización

  • Argumento de individuación, atención, tres hipótesis, experimentos, objeciones y conclusión condicional: arXiv:2604.17031v2, 27 páginas renderizadas e inspeccionadas; TeX completo
  • Código, transcripciones, resultados, parámetros, judge, figuras y documentación: bepierre/where-is-the-mind-mini-experiments commit 55820b4060f8ab32b0a8441ae43ff850b28ae327
  • Cardinalidades, medias, proyecciones, identidad y reproducción de plots: 390 filas de mini_experiment_2/results/results.csv y seis JSON de mini_experiment_1/results en commit 55820b4
  • Auditoría de argumentos, datos, código, estadística, seguridad y reproducibilidad: reports/verification/article-361-persona-vectors-individuation-attention-kv-code-data-and-claim-audit.json