PersonaArena: Dynamic Simulation for Evaluating and Enhancing Persona-Level Role-Playing in Large Language Models

Personas, identidad y agentes2026ACL AnthologyRevisión editorial aprobada

Autores: Wenlong Shi, Jianxun Lian, Mingqi Wu, Haiming Qin, Mingyang Zhou, Xing Xie, Naipeng Chao, Hao Liao

Palabras clave: Persona conditioning, Role-playing agents, Synthetic social simulation, LLM-as-judge, Privacy and data ethics

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

8
Autores
17
Hallazgos
26
Limitaciones
6
Evidencias

Resumen editorial

Español

Este trabajo publicado en Findings of ACL 2026 presenta PersonaArena, un marco que genera escenas sociales multiagente, hace que un LLM interprete una persona cotidiana y puntúa la trayectoria en ocho dimensiones. También usa las trayectorias mejor valoradas para entrenar Qwen3-8B mediante SFT y DPO. Es una contribución técnica relevante para role-playing dinámico, pero sus términos más fuertes, persona «auténtica», evaluación «imparcial» y agentes socialmente hábiles, no están respaldados por un ground truth humano equivalente. La evidencia permite comparar salidas dentro del entorno sintético, no medir la personalidad real de una persona ni la fidelidad del comportamiento humano.

El banco parte del Blog Authorship Corpus: más de 19.000 autores y unas 681.000 entradas públicas. Un LLM no identificado sustituye nombres, correos y domicilios e infiere demografía, ocupación, personalidad, valores, intereses y experiencias; se publican 1.000 fichas. Estas fichas no fueron verificadas por sus autores ni mediante instrumentos psicométricos. La comprobación de anonimización pide a diez anotadores decidir cuál de 20 pares original/anonimizado encaja mejor con el perfil: 47% elige el original y 53% el anonimizado. Eso puede mostrar conservación semántica, pero no prueba anonimato, consentimiento, ausencia de linkage ni protección frente a inferencias sensibles. El corpus de origen está diseñado para atribución de autor y su ficha de Hugging Face declara licencia desconocida.

La calidad del banco publicado contradice parte del discurso de autenticidad. La auditoría encuentra 1.000 IDs pero solo 956 nombres distintos, 81 fichas con edad explícita de menor y 172 con dos edades numéricas diferentes. Hay atributos sensibles sobre salud, estado mental, identidad de género, política y relaciones. También aparecen hechos fabricados: una ficha convierte a «James Russell» en cofundador de Sun Microsystems, cuyos fundadores documentados son Andy Bechtolsheim, Vinod Khosla, Scott McNealy y Bill Joy. Un modelo puede obtener alta fidelidad a la ficha repitiendo información falsa; por tanto, Knowledge Accuracy y Behavioral Accuracy se evalúan contra un referente generado que no siempre es coherente o verdadero.

En cada ejecución se muestrean solo diez personas y se generan escenarios compartidos entre modelos. El protagonista interactúa con dos o tres NPCs y un Environment Agent, normalmente Qwen3-32B. Un sistema de checkpoints busca cubrir antecedentes, personalidad, valores, intereses y experiencias. Tres jueces, DeepSeek-R1, Qwen3-32B y Mistral-small3.2, puntúan de 1 a 5 Knowledge Accuracy, Behavioral Accuracy, Emotional Expression, Personality Traits, Immersion, Behavioral Coherence, Adaptability e Interaction Richness; GPT-4o-mini arbitra desacuerdos. Los prompts de generación ya ordenan mantener personalidad, realismo emocional, detalle, adaptación y no repetición: existe fuga directa entre lo que el sistema solicita y lo que luego premia.

GPT-5.1 obtiene el promedio más alto, 3,963, seguido muy de cerca por GPT-4.1 con 3,948; DeepSeek-V3.2 es el abierto mejor situado con 3,902. La alineación global con humanos es 0,683 para el panel y 0,669 para Qwen3-32B solo. El texto afirma que el panel es superior en las ocho métricas, pero su propia tabla muestra que un juez individual correlaciona mejor en BA, IM, BC e IR. Cuatro estudiantes de posgrado valoran cada trayectoria con al menos tres jueces humanos, pero no se informa cuántas trayectorias, la asignación, fiabilidad interanotador ni intervalos de las correlaciones. Tampoco hay tests, p-values, intervalos de confianza, corrección por multiplicidad, análisis de potencia o unidad independiente clara. Con diez personas, escenarios compartidos, ocho métricas y muchos modelos, las diferencias pequeñas no son evidencia inferencial.

El paper reporta que 1.228 instancias SFT extraídas de las 50 mejores trayectorias elevan el promedio de Qwen3-8B un 21,96%, y que 665 pares DPO derivados de 50 pares de trayectorias lo elevan un 27,83%. El problema es circular: PersonaArena selecciona los ejemplos y preferencias y después mide la mejora principalmente con PersonaArena. En PersonaGym la puntuación pasa de 3,66 a 3,88/4,09 y en RoleBench el win rate de 0,0% a 28,6%/37,1%, lo que aporta señal externa, pero ambos ensayos reutilizan perfiles de PersonaArena y evaluación automática. Las ablaciones conservan el orden de cuatro modelos seleccionados, aunque cambian la escala hasta 0,177 por composición de jueces, 0,291 con un árbitro débil, 0,136 por Environment Agent y 0,121 al quitar early stopping.

El código público permite inspeccionar el simulador y el evaluador y ofrece 1.000 fichas y 1.000 escenas bajo la licencia MIT del repositorio. Sin embargo, no hay release ligado al paper, semillas, configs exactas, trayectorias experimentales, resultados brutos, anotaciones humanas, código/datos de SFT-DPO, checkpoints, tests o CI. El script batch referencia un play_qwen3_14b.yaml inexistente. Más grave: si no logra parsear la respuesta de un juez, el evaluador asigna silenciosamente ocho 3; cuando arbitra una métrica, sustituye la puntuación de todos los jueces por el entero del árbitro antes de promediar. Los fallos pueden parecer juicios neutrales válidos y los desacuerdos dejan de ser un promedio multi-juez.

El checklist declara que no hay riesgos porque usa datos públicos y personajes sintéticos «inofensivos», marca como no aplicables los controles de identificación/ofensividad y declara que no hubo consentimiento ni revisión o exención ética. Esto entra en tensión con el uso de historiales reales, menores y atributos psicológicos inferidos. La conclusión fiel es que PersonaArena implementa un banco y un entorno sintéticos útiles para comparar consistencia narrativa y optimizar modelos hacia preferencias de sus jueces. No demuestra personalidad humana, realismo social, anonimato, imparcialidad del evaluador, superioridad estadística estable ni que los modelos entrenados sean socialmente más hábiles fuera de este pipeline; sus resultados numéricos no se pueden reproducir con el artefacto liberado.

English

This Findings of ACL 2026 paper presents PersonaArena, a framework that generates multi-agent social scenes, has an LLM enact an everyday persona, and scores the resulting trajectory on eight dimensions. It also uses highly rated trajectories to train Qwen3-8B with SFT and DPO. Dynamic role-playing is a meaningful technical contribution, but the strongest terms, “authentic” personas, “unbiased” evaluation, and socially adept agents, lack equivalent human ground truth. The evidence supports comparisons inside a synthetic environment, not measurement of a real person's personality or fidelity to human behavior.

The persona bank starts from the Blog Authorship Corpus: more than 19,000 authors and about 681,000 public posts. An unspecified LLM replaces names, emails, and home addresses and infers demographics, occupation, personality, values, interests, and experiences; 1,000 cards are released. The bloggers did not validate these cards and no psychometric instrument is used. The anonymization check asks ten annotators which of 20 original/anonymized card pairs better matches the underlying profile: 47% select the original and 53% the anonymized card. This may indicate semantic preservation but does not test anonymity, consent, linkage, or sensitive inference. The source corpus is explicitly suitable for authorship attribution and its Hugging Face card lists the license as unknown.

The released bank's quality conflicts with the authenticity framing. The audit finds 1,000 IDs but only 956 distinct names, 81 cards with an explicit minor-age pattern, and 172 cards containing two different numerical ages. Cards include sensitive health, mental-state, gender-identity, political, and relationship attributes. They also fabricate biography: one card calls “James Russell” a Sun Microsystems co-founder, whereas the documented founders are Andy Bechtolsheim, Vinod Khosla, Scott McNealy, and Bill Joy. A model can score highly by repeating a false card, so Knowledge Accuracy and Behavioral Accuracy are grounded in generated references that are not always coherent or true.

Each benchmark run samples only ten personas and shares generated scenarios across models. The protagonist interacts with two or three NPCs and an Environment Agent, normally Qwen3-32B. Checkpoints seek coverage of background, personality, values, interests, and experiences. Three judges, DeepSeek-R1, Qwen3-32B, and Mistral-small3.2, score Knowledge Accuracy, Behavioral Accuracy, Emotional Expression, Personality Traits, Immersion, Behavioral Coherence, Adaptability, and Interaction Richness from 1 to 5; GPT-4o-mini arbitrates disagreements. Generation prompts already request personality consistency, emotional realism, detail, adaptation, and non-repetition, creating direct leakage between what the pipeline requests and rewards.

GPT-5.1 has the highest mean at 3.963, narrowly ahead of GPT-4.1 at 3.948; DeepSeek-V3.2 is the top listed open model at 3.902. Overall human correlation is 0.683 for the panel and 0.669 for Qwen3-32B alone. The prose says the panel is stronger on all eight metrics, but the table shows an individual judge correlating better on BA, IM, BC, and IR. Four graduate annotators rate each trajectory with at least three human ratings, but the trajectory count, assignment, inter-rater reliability, and correlation intervals are omitted. There are also no tests, p-values, confidence intervals, multiplicity correction, power analysis, or clear independent unit. With ten personas, shared scenarios, eight metrics, and many models, small differences are not inferential evidence.

The paper reports that 1,228 SFT instances extracted from the top 50 trajectories improve Qwen3-8B's average by 21.96%, while 665 DPO pairs derived from 50 trajectory pairs improve it by 27.83%. This is circular: PersonaArena selects the examples and preferences, then chiefly evaluates the improvement with PersonaArena. PersonaGym rises from 3.66 to 3.88/4.09 and RoleBench win rate from 0.0% to 28.6%/37.1%, which provides external signal, but both reuse PersonaArena profiles and automatic evaluators. Ablations retain the ordering of four selected models while changing score scale by up to 0.177 for judge composition, 0.291 with a weak arbiter, 0.136 for the Environment Agent, and 0.121 when early stopping is removed.

The public code makes the simulator and evaluator inspectable and releases 1,000 cards and 1,000 scenes under the repository's MIT license. However, there is no paper-linked release, seeds, exact configs, experimental trajectories, raw results, human labels, SFT/DPO data or code, checkpoints, tests, or CI. The batch script references a missing play_qwen3_14b.yaml. More importantly, if all parsing attempts fail, the evaluator silently assigns eight scores of 3; when a metric is arbitrated, it replaces every judge's score with the arbiter's integer before averaging. Failures can therefore appear as valid neutral judgments, while disputed metrics cease to be a multi-judge mean.

The checklist says there are no risks because the work uses public data and harmless synthetic characters, marks identifying/offensive-content checks not applicable, and reports neither consent nor ethics-board approval/exemption. That conflicts with the use of real posting histories, minors, and inferred psychological attributes. The faithful conclusion is that PersonaArena provides a useful synthetic bank and arena for comparing narrative consistency and optimizing models toward its judges' preferences. It does not establish human personality, social realism, anonymity, evaluator impartiality, stable statistical superiority, or socially better models outside this pipeline, and the released artifact cannot reproduce its numerical results.

Pregunta de investigación

¿Puede un entorno social dinámico basado en personas inferidas de blogs evaluar la fidelidad, coherencia, expresividad y adaptación del role-playing de LLM, y pueden las trayectorias mejor puntuadas mejorar Qwen3-8B mediante SFT y DPO?

Método

Se derivan 1.000 fichas de Blog Authorship con un LLM de preprocesado no identificado. En cada ejecución se muestrean diez, un Environment Agent genera escenas y NPCs, y el protagonista interactúa hasta cubrir cinco checkpoints o el límite de turnos. Tres jueces LLM y un árbitro puntúan ocho métricas 1-5. Cuatro anotadores humanos sirven de referencia sin n publicado. Se entrenan Qwen3-8B SFT con 1.228 instancias de 50 trayectorias y DPO con 665 pares de 50 comparaciones. La auditoría revisó 35 páginas ACL, TeX, checklist, código, 1.000 fichas y 1.000 escenas.

Muestra: La tabla principal usa diez personas aleatorias por ejecución y escenarios compartidos entre modelos; no publica IDs, semillas ni réplicas. La validación humana usa cuatro estudiantes de posgrado y al menos tres ratings por trayectoria, pero no informa cuántas trayectorias. La anonimización usa 20 pares por diez anotadores; el análisis de puntuaciones usa 50 pares y cuatro modelos. SFT conserva 50 trayectorias/1.228 instancias; DPO conserva 50 pares/665 preferencias.

Hallazgos

  • Es un paper publicado en Findings of ACL 2026, no solo un preprint.
  • GPT-5.1 lidera por promedio con 3,963 y GPT-4.1 queda en 3,948.
  • DeepSeek-V3.2 es el modelo abierto mejor situado con 3,902.
  • Qwen3 muestra una tendencia generalmente creciente con tamaño dentro de la familia.
  • El panel correlaciona 0,683 con humanos frente a 0,669 de Qwen3-32B solo.
  • Un juez individual supera al panel en BA, IM, BC e IR, contradiciendo la afirmación textual de superioridad en ocho métricas.
  • El paper reporta +21,96% para SFT y +27,83% para DPO frente a Qwen3-8B base.
  • PersonaGym mejora 3,66 a 3,88/4,09 y RoleBench 0,0% a 28,6%/37,1% para SFT/DPO.
  • Ablaciones preservan el orden de cuatro modelos pero mueven la escala hasta 0,291.
  • Los prompts de generación exponen directamente varios criterios premiados.
  • No hay ground truth de personalidad ni interacción humana equivalente.
  • Se publican código general, 1.000 fichas y 1.000 escenas.
  • El corpus tiene 172 fichas con edades contradictorias, 81 perfiles de menores y nombres duplicados.
  • El corpus incluye biografías fabricadas y atributos sensibles inferidos.
  • El código sustituye fallos de parsing por ocho 3 y convierte métricas arbitradas en una única puntuación del árbitro.
  • El artefacto no reproduce tablas, validación humana ni entrenamiento SFT/DPO.
  • El checklist declara ausencia de consentimiento y revisión/exención ética.

Limitaciones

  • Personas inferidas por LLM, no validadas por los bloggers.
  • Sin instrumentos psicométricos ni conducta humana ground truth.
  • Escenarios, NPCs, checkpoints y jueces completamente sintéticos.
  • Fuga de criterios entre prompts de generación y evaluación.
  • Solo diez personas aleatorias por ejecución.
  • Sin semillas, réplicas ni manifest de la muestra.
  • Snapshots API y configs exactas no identificados.
  • n humano, asignación y fiabilidad interanotador omitidos.
  • Pearson sobre ratings ordinales/promediados sin intervalos.
  • Sin tests, p-values, intervalos ni multiplicidad.
  • Dependencia entre personas, escenas, turnos, jueces y métricas no modelada.
  • Posible preferencia de familia y estilo de los jueces.
  • La afirmación de superioridad multi-juez contradice cuatro columnas.
  • SFT/DPO seleccionados y evaluados por el mismo pipeline.
  • Benchmarks externos reutilizan personas y jueces automáticos.
  • Ablaciones de robustez limitadas a cuatro modelos.
  • Test de anonimización no mide re-identificación ni linkage.
  • Licencia del dataset original desconocida.
  • Perfiles de menores y atributos sensibles sin consentimiento.
  • Edades contradictorias, nombres duplicados y biografías falsas.
  • Sin release del paper, resultados, etiquetas humanas o training artifacts.
  • Script batch referencia una config ausente.
  • Fallos de scoring imputados silenciosamente con 3.
  • Arbitraje sobrescribe los juicios independientes.
  • Sin tests, CI, lockfile o contenedor.
  • Sin aprobación o exención ética.

Qué no demuestra

  • Personalidad humana real en los LLM.
  • Fidelidad a la persona que escribió los blogs.
  • Validez psicométrica de las fichas inferidas.
  • Realismo de interacción social frente a humanos.
  • Anonimato o imposibilidad de re-identificación.
  • Consentimiento para inferir atributos psicológicos.
  • Imparcialidad o ausencia de sesgo del panel LLM.
  • Superioridad del panel en las ocho métricas.
  • Significación de diferencias entre modelos.
  • Estabilidad a otras muestras de personas y escenarios.
  • Ganancia independiente del evaluador usado para seleccionar training data.
  • Generalización a despliegues sociales reales.
  • Que DPO-Qwen3-8B sea globalmente mejor que GPT-4.1.
  • Exactitud factual de las personas publicadas.
  • Seguridad ética o legal del corpus derivado.
  • Reproducción de las cifras con el repositorio público.

Trazabilidad

Alcance: Texto completo

Versión: Findings of ACL 2026, Anthology ID 2026.findings-acl.471, DOI 10.18653/v1/2026.findings-acl.471, 35 pages; arXiv:2605.17044v1 and complete TeX; Responsible NLP Checklist; Microsoft PersonaArena repository at audited head ff6a7d8e7381f9a88f3ae2841848af52134b26da

Fuente consultada: https://aclanthology.org/2026.findings-acl.471/

Revisión: Codex 35-page ACL, complete TeX, checklist, construct, statistics, LLM-judge, training circularity, privacy, ethics, repository code, persona data-quality and reproducibility audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • Phi-4
  • Mistral-Small-3.2-24B-Instruct-2506
  • Grok-3, exact snapshot not reported
  • Llama 3.1 8B Instruct
  • Llama 3.2 3B Instruct
  • Qwen3 1.7B, 4B, 8B, 14B and 32B
  • DeepSeek-R1-8B
  • DeepSeek-V3.2
  • GPT-OSS-20B
  • GPT-3.5, exact snapshot not reported
  • GPT-4o-mini, exact snapshot not reported
  • GPT-4o, exact snapshot not reported
  • GPT-4.1, exact snapshot not reported
  • GPT-5.1, exact snapshot not reported
  • SFT-Qwen3-8B
  • DPO-Qwen3-8B

Instrumentos y métricas

  • Knowledge Accuracy 1-5
  • Behavioral Accuracy 1-5
  • Emotional Expression 1-5
  • Personality Traits 1-5
  • Immersion 1-5
  • Behavioral Coherence 1-5
  • Adaptability 1-5
  • Interaction Richness 1-5
  • Three-judge mean with GPT-4o-mini arbitration
  • Four-graduate-annotator human ratings
  • Pearson correlation with human averages
  • Original-versus-anonymized card preference
  • PersonaGym PersonaScore
  • RoleBench GPT-4-based win rate
  • Independent construct, statistics, privacy, ethics, code, data-quality and reproducibility audit

Datos utilizados

  • Blog Authorship Corpus: 19,320 bloggers and about 681,000 posts
  • Released PersonaArena bank: 1,000 LLM-derived persona cards
  • Released PersonaArena scenes: 1,000 generated social scenarios
  • Author-generated benchmark trajectories, not released
  • 1,228 SFT instances from 50 selected trajectories, not released
  • 665 DPO pairs from 50 selected trajectory pairs, not released
  • PersonaGym with PersonaArena-derived profiles
  • RoleBench with PersonaArena-derived profiles

Evidencia y localización

  • Publicación, método, resultados, prompts, apéndices y limitaciones: ACL Anthology 2026.findings-acl.471, 35 pages, DOI 10.18653/v1/2026.findings-acl.471, sha256 03de2b236149cd6d1ceeee8b49be7b3ee7ef90e44319bb9627f041772188af3f
  • TeX completo y versión arXiv: arXiv:2605.17044v1; source sha256 e026487ada238d721ce40cb40da232c29444097121e3ebbfde7186ed0cabf4f9; main TeX sha256 d19c06bda28272f98b8c71aa0f0e2cd0a39186aff32c97fa636e95fb203c9f7e
  • Riesgos, consentimiento y revisión ética declarados: Responsible NLP Checklist sha256 7abb989d5049ae636549fa9d87a0747ca67ed708b92335517e8e2a270e0c3601
  • Código, datos, licencia, commits y reproducibilidad: github.com/microsoft/AnthropomorphicIntelligence/PersonaArena at head ff6a7d8e7381f9a88f3ae2841848af52134b26da; PersonaArena last change cc4bf46eeabdf9733753fc901a6f31834af59751; audited 2026-07-17
  • Proveniencia, escala, atribución de autor y licencia desconocida del corpus de blogs: huggingface.co/datasets/barilan/blog_authorship_corpus and source corpus documentation; 19,320 authors, about 681,000 posts
  • Auditoría independiente completa: reports/verification/article-328-personaarena-human-grounding-privacy-judge-training-data-code-and-reproducibility-audit.json