Persona Vectors in Games: Measuring and Steering Strategies via Activation Vectors

Inducción y control de rasgos2026arXivRevisión editorial aprobada

Autores: Johnathan Sun, Andrew Zhang

Palabras clave: Persona conditioning, Activation steering

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

2
Autores
8
Hallazgos
22
Limitaciones
6
Evidencias

Resumen editorial

Español

Sun y Zhang estudian si una dirección de activación puede medir y modificar altruismo, perdón y expectativas sobre otras personas en Qwen2.5-7B-Instruct. Construyen cada vector restando activaciones medias de respuestas precedidas por cinco instrucciones positivas y cinco negativas, filtran pares con puntuaciones de rasgo y coherencia de GPT-4.1-mini e intervienen la capa 20 sumando beta por el vector. Evalúan seis juegos de altruismo, ocho viñetas de perdón y preguntas sobre conducta ajena. La intervención es causal sobre las activaciones y salidas de este modelo: en los CSV públicos, la puntuación verbal media de altruismo sube de 20,50 con beta 0 a 68,02 con beta 3, y la de perdón de 41,55 a 85,10. La asignación del Dictator Game pasa de 17,40 a 55,70 y también aumentan ofertas de ultimátum y algunas transferencias. Sin embargo, el efecto conductual no es uniforme. En confianza, cooperación y pesca apenas cambia o cambia de dirección; al elevar perdón, algunas decisiones se vuelven menos conciliadoras. Así, el hallazgo más importante es la separación entre retórica puntuable y estrategia, no la demostración de una personalidad unitaria. El artefacto es valioso: publica código, prompts, vectores y salidas crudas que permiten reconstruir muchas medias. También revela discrepancias omitidas. El paper dice 50 dilemas de entrenamiento, pero prompt y datos contienen 40; no declara diez generaciones por combinación ni el filtro de coherencia; y los pares efectivos varían de 1.735 para altruismo esperado a solo 234 para perdón, pese a que este último parte de 10.000 filas por polaridad. GPT-4.1-mini selecciona los ejemplos y vuelve a medir el rasgo, por lo que esa validación es parcialmente circular; también extrae las decisiones sin contraste humano. La capa se elige por efectos estables e interpretables, los vectores no se normalizan, faltan controles aleatorios o de norma equivalente y no hay análisis directo que pruebe ortogonalidad entre el yo y las expectativas. Las cientos de muestras son réplicas estocásticas de solo seis u ocho prompts y no justifican generalización a entornos estratégicos. Es un caso útil de steering y una advertencia contra evaluar agentes por su lenguaje moral; no demuestra personalidad humana, un mecanismo psicológico único ni conducta desplegada estable.

English

Sun and Zhang study whether activation directions can measure and alter altruism, forgiveness, and expectations of others in Qwen2.5-7B-Instruct. Each vector is constructed by subtracting mean activations from responses preceded by five positive versus five negative instructions, filtering pairs with GPT-4.1-mini trait and coherence scores, and intervening at layer 20 by adding beta times the vector. Evaluation covers six altruism games, eight forgiveness vignettes, and questions about others' behavior. This is a causal intervention on this model's activations and outputs: in the released CSVs, mean verbal altruism rises from 20.50 at beta 0 to 68.02 at beta 3, while forgiveness rises from 41.55 to 85.10. Dictator allocation increases from 17.40 to 55.70, and ultimatum offers and selected transfers also rise. Behavioral effects are not uniform, however. Trust, cooperation, and fishing decisions move little or in different directions, and stronger forgiveness steering makes some choices less conciliatory. The most important result is therefore a separation between scoreable rhetoric and strategy, not evidence for a unitary personality. The artifact is valuable: code, prompts, vectors, and raw outputs permit reconstruction of many means. It also exposes omitted discrepancies. The paper says 50 training dilemmas, but the released prompt and data contain 40; it does not report ten generations per combination or the coherence filter; and effective retained pairs range from 1,735 for expected altruism to only 234 for forgiveness, although the latter starts from 10,000 rows per polarity. GPT-4.1-mini both selects construction examples and later measures the trait, making validation partly circular; it also extracts decisions without human validation. Layer 20 is selected for stable and interpretable effects, vectors are unnormalised, random or norm-matched controls are absent, and no direct geometry establishes orthogonality between self and expectation directions. Hundreds of samples are stochastic replications of only six or eight prompts and do not establish strategic-environment generality. This is a useful steering case study and a warning against evaluating agents through moral language alone; it does not demonstrate human-like personality, a unique psychological mechanism, or stable deployed behavior.

Pregunta de investigación

¿Pueden vectores de activación contrastivos medir y modificar causalmente altruismo, perdón y expectativas sobre otros en decisiones estratégicas de un LLM, y hasta qué punto coinciden el lenguaje del rasgo y la acción cuantitativa?

Método

Caso de estudio con Qwen2.5-7B-Instruct. Claude Sonnet 4.5 genera dilemas y prefijos positivos/negativos. Se obtienen activaciones medias por respuesta con teacher forcing y se resta la media negativa de la positiva. GPT-4.1-mini puntúa rasgo y coherencia; el código filtra positivo >=50, negativo <50 y coherencia >=50. Se añade beta por el vector sin normalizar en la capa 20 y se generan réplicas a temperatura 1. GPT puntúa rasgo y extrae elecciones monetarias/binarias en juegos de altruismo, perdón y expectativas.

Muestra: Un único modelo de 7B y una capa elegida. Por beta hay 300 respuestas de altruismo, seis prompts por 50 generaciones, y 240 de perdón, ocho por 30; expectativas usa 13 o 16 prompts por 30 generaciones. La validación por prefijos contiene 1.500 respuestas positivas, 1.500 negativas y 300 sin prefijo. La construcción publicada no coincide con el artefacto: son 40 preguntas, no 50; hay repeticiones no descritas y, tras el filtro, quedan 824 pares para altruismo, 234 para perdón, 1.735 para altruismo esperado y 656 para perdón esperado.

Hallazgos

  • La intervención positiva eleva de forma monotónica las puntuaciones GPT de lenguaje altruista y de perdón; el steering negativo de altruismo es débil y no monotónico.
  • En los datos liberados, altruismo medio pasa de 20,50 en beta 0 a 68,02 en beta 3; perdón pasa de 41,55 a 85,10.
  • La asignación del Dictator Game aumenta de 17,40 a 55,70 entre beta 0 y 3; también suben oferta de ultimátum y algunas transferencias.
  • Los seis juegos no responden de forma uniforme: confianza y cooperación apenas mejoran, y pesca cambia en sentido distinto.
  • El lenguaje de perdón aumenta mucho aunque varias decisiones monetarias o de pareja se vuelven menos conciliadoras; otras sí mejoran.
  • Los vectores de expectativa producen algunos cambios más específicos que los vectores del propio rasgo, compatible con diferenciación funcional parcial.
  • Magnitudes altas degradan diversidad o coherencia y pueden producir grandiosidad, cambios de idioma y desacuerdo entre razonamiento y acción.
  • Código, salidas crudas y vectores públicos permiten reconstruir los principales patrones descriptivos.

Limitaciones

  • Solo se estudia Qwen2.5-7B-Instruct en la capa 20; no hay réplica entre modelos, tamaños, capas seleccionadas de antemano o runs independientes.
  • La capa 20 se elige por efectos estables e interpretables sin regla sistemática, preregistro ni conjunto de tuning separado.
  • El paper declara 50 preguntas de construcción, pero el prompt y los JSON públicos contienen 40.
  • No reporta diez generaciones por pregunta-prefijo, el filtro de coherencia ni los tamaños retenidos por rasgo.
  • El filtrado es muy desigual: perdón conserva solo 234 pares y 29 identificadores pregunta-prefijo desde 10.000 filas por polaridad.
  • GPT-4.1-mini etiqueta los ejemplos que forman el vector y vuelve a medir el resultado, creando validación circular del constructo.
  • Las decisiones cuantitativas también las extrae GPT sin parser determinista, muestra humana, acuerdo o tabla completa de fallos.
  • Los vectores pueden mezclar estilo moral, léxico, obediencia a instrucciones y estrategia; no son una medida psicométrica validada.
  • Altruismo combina generosidad, riesgo, creencias, cooperación, sostenibilidad y reparación; perdón combina reconciliación, castigo, confianza, riesgo y payoff.
  • Los vectores se añaden sin normalizar; beta depende de la norma de cada vector y no es comparable entre rasgos.
  • Faltan controles de vector aleatorio, norma equivalente, etiquetas barajadas, rasgos no relacionados, ortogonalización y mediación causal.
  • No se publican similitudes coseno, análisis de subespacio ni contrastes estadísticos directos que prueben ortogonalidad o independencia yo-expectativa.
  • Cientos de completions están anidadas en solo seis u ocho prompts redactados a mano; no representan cientos de entornos independientes.
  • El notebook usa bootstrap al 95%, pero el paper no define bien barras, tamaños por figura, modelos jerárquicos ni tabla de intervalos.
  • No hay plan inferencial, corrección por múltiples rasgos/juegos/betas ni análisis formal de robustez.
  • Las generaciones de Qwen usan temperatura 1 sin seed de generación registrado.
  • Los juegos son hipotéticos, one-shot, sin dinero real, humanos, memoria longitudinal o dinámica multiagente.
  • El README discrepa sobre la versión de Claude y contiene comandos copiados de evil que no reproducen limpiamente altruismo.
  • El notebook es secuencial y exploratorio; incluye una celda de perdón con índices y títulos erróneos, aunque otra celda posterior usa el mapeo correcto.
  • No hay tests, CI, pipeline de figuras, lock transitivo, contenedor, revisión inmutable de Qwen, hardware, costes ni fechas de API.
  • El repositorio no incluye licencia, CITATION, release archivada ni DOI; el commit actual es anterior al envío del paper.
  • No hay sección ética/impacto dedicada pese al posible uso dual para modificar decisiones o producir justificaciones morales desacopladas.

Qué no demuestra

  • No demuestra una personalidad altruista o indulgente estable, humana o unitaria dentro del modelo.
  • No identifica un mecanismo psicológico único ni separa por completo semántica, estilo y estrategia.
  • No valida los rasgos con instrumentos psicométricos, humanos o un juez independiente.
  • No demuestra que más lenguaje moral implique decisiones más altruistas o indulgentes; encuentra explícitamente lo contrario en varios juegos.
  • No establece que los vectores de yo y expectativa sean ortogonales o causalmente independientes.
  • No permite comparar beta como dosis común entre rasgos porque los vectores no están normalizados.
  • No generaliza a otros modelos, capas, idiomas, juegos, interacciones reales o agentes desplegados.
  • No convierte repeticiones estocásticas de pocos prompts en evidencia sobre una población amplia de entornos estratégicos.
  • No ofrece una reproducción exacta garantizada: faltan licencia, release congelada, tests, entorno completo y revisiones inmutables de todos los modelos.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2603.21398v1, submitted 2026-03-22, CC BY 4.0; associated GitHub artifact audited at commit 2ae96c5e0ac29ac9ecd5ac54b947ad44d2423c3a

Fuente consultada: https://arxiv.org/abs/2603.21398

Revisión: Codex 14-page visual full-text plus public code, prompt, vector, raw-output, notebook, construct, causal, judge-circularity, statistical, reproducibility and ethics audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • Qwen2.5-7B-Instruct
  • claude-sonnet-4-5-20250929
  • gpt-4.1-mini-2025-04-14

Instrumentos y métricas

  • Contrastive activation addition
  • Teacher-forced response-token mean activations
  • Positive and negative trait prefixes
  • GPT-4.1-mini 0-100 trait judge
  • GPT-4.1-mini coherence judge
  • GPT-4.1-mini quantitative strategy extractors
  • Residual-stream vector projection
  • Six altruism games
  • Eight forgiveness vignettes
  • Self-behavior and expectation probes

Datos utilizados

  • Released trait_data_extract JSON files with 40 questions per trait
  • Released positive and negative extraction CSVs, including 2,000 rows per polarity for three traits and 10,000 per polarity for forgiveness
  • Released steering CSVs across beta -5 to 5
  • Released prefix-validation CSVs with 3,300 altruism-game outputs
  • Released precomputed .pt activation vectors
  • Released exploratory analysis notebook

Evidencia y localización

  • Método, resultados, figuras, discusión, límites y apéndices: arXiv:2603.21398v1, 14/14 pages rendered and individually inspected
  • Metadatos, versión única v1, fecha, DOI y licencia CC BY 4.0 del paper: Official arXiv abstract record and license link inspected 2026-07-17
  • Código, prompts, vectores, raw outputs, dependencias, documentación y notebook: Public GitHub repository snapshot at commit 2ae96c5e0ac29ac9ecd5ac54b947ad44d2423c3a, tree ab9bb2965abfc5e583c0bdd7c3b7441d1a08e85c
  • Reconciliación de preguntas, repeticiones, filtros y pares efectivos: Released generation prompt, trait_data_extract JSON, extraction CSVs and generate_vec.py audited locally
  • Reconstrucción de puntuaciones, acciones, missingness y divergencia retórica-estrategia: Released v1 steering and rejudged comparison CSVs recomputed with pandas on 2026-07-17
  • Auditoría integral de constructo, causalidad, juez, estadística, código, datos, reproducibilidad y ética: reports/verification/article-386-persona-vectors-game-construct-vector-selection-judge-circularity-statistics-code-data-and-reproducibility-audit.json