ArcANE: Do Role-Playing Language Agents Stay in Character at the Right Time?

Aplicaciones, sesgos y seguridad2026arXivRevisión editorial aprobada

Autores: Woojung Song, Nalim Kim, Sangjun Song, Chaewon Heo, Jongwon Lim, Yohan Jo

Palabras clave: Arc-aware role-playing agents, Character trajectory evaluation, Synthetic narrative probes, Phase-sensitive persona conditioning, LLM-as-judge benchmark

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

6
Autores
8
Hallazgos
13
Limitaciones
4
Evidencias

Resumen editorial

Español

ArcANE estudia si un agente que interpreta a un personaje literario ajusta su conducta al momento correcto de su evolución narrativa, en vez de repetir una persona fija. La canalización procesa cada novela mediante dos corrientes LLM: una extrae acontecimientos psicológicamente relevantes y otra describe estados del personaje por capítulo. Después propone ejes intrapersonales o relacionales, reconcilia ambas corrientes y divide cada eje en fases con rango de capítulos, estado y acontecimientos de apoyo. Tres críticos LLM filtran los ejes; en el conjunto de evaluación, tres anotadores humanos vuelven a juzgar su validez y se exige mayoría de dos. Cada arco genera una misma situación y pregunta para todas sus fases, con una acción y un pensamiento de referencia distintos por fase. Las sondas son In-Scenario, cuando parten de un pasaje real; In-World, cuando inventan una situación compatible con la obra; y Out-of-World, cuando trasladan el eje a otro contexto histórico. Estas dos últimas referencias son proyecciones contrafactuales redactadas por LLM, no hechos canónicos observados. El corpus declarado contiene 17 novelas, 80 personajes, 544 arcos y 4.601 sondas: 10 novelas y 2.545 sondas para entrenamiento; cinco novelas, 25 personajes, 205 arcos y 1.754 sondas en la evaluación validada; y dos novelas, siete personajes, 31 arcos y 302 sondas de baja popularidad sin validación humana. Se comparan DeepSeek-V4-Flash/Pro, Qwen3-8B/32B y ArcANE-8B/32B bajo seis contextos: Vanilla, resúmenes, RAG, LifeChoice, TimeCHARA y Arc. Arc entrega el eje y la fase que también estructuraron las referencias. DeepSeek-V4-Flash puntúa de 1 a 100 la fidelidad de acción, razonamiento, relación razonamiento-acción y trayectoria entre fases. Arc obtiene el mejor Overall en los seis modelos y en 29 de 30 celdas modelo-por-novela; sus Overall son 59,7 y 62,4 en DeepSeek, 43,1 y 50,1 en Qwen y 56,9 y 60,4 en ArcANE. Frente al mejor contexto alternativo, las ventajas Overall van aproximadamente de 2,2 a 8,4 puntos y crecen sobre todo en escenarios no presentes en la obra. MixedArc, que entrega el arco de otro personaje, puede caer por debajo de Vanilla. ArcHint, reducido a etiqueta de eje e índice de fase, queda a ±2,6 puntos de Arc completo en los modelos no entrenados, señal de que gran parte del efecto de prompting proviene de esa información privilegiada y compacta. Para crear ArcANE-8B/32B, el SFT usa 45.690 respuestas de gpt-5.4-mini y claude-sonnet-4-6 sobre las diez novelas de entrenamiento; DPO forma 14.671 pares entre una respuesta de fase correcta y otra adyacente. Aquí aparece una inconsistencia crítica. El apéndice dice que DPO abarca 12 novelas, 55 personajes y 2.838 sondas: 12 y 55 coinciden exactamente con sumar las diez novelas/48 personajes de entrenamiento y las dos novelas/siete personajes del supuesto control de baja popularidad; 2.838 queda solo nueve por debajo de sus 2.847 sondas combinadas. Es, por tanto, altamente probable que The Underdogs y East Lynne entren en DPO. Para los modelos ArcANE-DPO, ese bloque no puede presentarse como prueba held-out de memorización; parece estar excluido solo de anotación humana. El artículo no publica las identidades DPO para despejarlo y, además, informa 113 ejes DPO donde esos dos bloques combinados contienen 339 arcos. La validación del juez también es más limitada que el titular: tres colegas ven la decisión de DeepSeek antes de marcarla razonable o corregirla. La mayoría aprueba 61/70 casos; en 50 correcciones ancladas, la correlación con la media humana es 0,962 y el error absoluto medio 4,7. Eso comprueba calibración tras ver al juez, no acuerdo humano ciego. Tres jueces LLM adicionales preservan el primer puesto de ArcANE-32B-DPO/Arc en 300 celdas, pero usan las mismas referencias sintéticas y la misma rúbrica. La unidad efectiva de generalización son solo cinco novelas; no hay intervalos agrupados por novela, personaje o arco, pruebas de significación, ni repeticiones de generación. Tampoco están publicados código, datos, pesos, particiones, salidas, anotaciones o scripts, pese a que el texto promete liberarlos tras publicación. La aportación defendible es una representación útil de trayectorias narrativas y evidencia de que dar explícitamente eje y fase mejora la coincidencia con referencias construidas bajo ese mismo marco. No demuestra una interpretación literaria única, personalidad humana, estado psicológico interno, generalización independiente de DPO a las novelas de baja popularidad, consistencia multivuelta ni seguridad para impersonación.

English

ArcANE asks whether a role-playing language agent adapts a fictional character's behavior to the correct point in the narrative rather than repeating a fixed persona. Its pipeline processes each novel through two LLM streams: one extracts psychologically consequential events and the other produces chapter-level character states. It then proposes intrapersonal or relational axes, reconciles the streams, and segments every axis into phases with chapter ranges, state descriptions, and supporting events. Three LLM critics filter the axes; for the evaluation set, three human annotators reassess validity and a two-of-three majority is required. Each arc generates one scenario and question shared across all phases, with a different reference action and thought for each phase. Probes are In-Scenario when anchored in a real passage, In-World when they invent a situation compatible with the work, and Out-of-World when they transpose the axis to another setting. The latter two references are LLM-authored counterfactual projections, not observed canonical facts. The reported corpus contains 17 novels, 80 characters, 544 arcs, and 4,601 probes: ten novels and 2,545 probes for training; five novels, 25 characters, 205 arcs, and 1,754 probes in the validated evaluation; and two low-popularity novels with seven characters, 31 arcs, and 302 probes without human validation. DeepSeek-V4-Flash/Pro, Qwen3-8B/32B, and ArcANE-8B/32B are compared under Vanilla, Summary, RAG, LifeChoice, TimeCHARA, and Arc context. Arc provides the axis and current phase that also structured the references. DeepSeek-V4-Flash assigns 1-to-100 scores for action fidelity, reasoning fidelity, reasoning-action entailment, and cross-phase trajectory. Arc has the highest Overall score for all six models and in 29 of 30 model-by-novel cells; its Overall values are 59.7 and 62.4 for DeepSeek, 43.1 and 50.1 for Qwen, and 56.9 and 60.4 for ArcANE. Against the strongest alternative context, Overall gains are roughly 2.2 to 8.4 points and grow mainly on scenarios absent from the source. MixedArc, which supplies another character's arc, can fall below Vanilla. ArcHint, containing only the axis label and phase index, remains within 2.6 points of full Arc for untrained models, indicating that much of the prompting effect comes from this compact privileged information. To create ArcANE-8B/32B, SFT uses 45,690 gpt-5.4-mini and claude-sonnet-4-6 responses from the ten training novels; DPO forms 14,671 pairs between an anchor-phase answer and an adjacent-phase answer. A critical inconsistency follows. The appendix says DPO spans 12 novels, 55 characters, and 2,838 probes: 12 and 55 exactly equal the ten-novel/48-character training split plus the two-novel/seven-character low-popularity split, while 2,838 is only nine below their combined 2,847 probes. It is therefore highly likely that The Underdogs and East Lynne enter DPO. For ArcANE-DPO models, this slice cannot serve as a held-out memorization test; it appears held out only from human annotation. The paper releases no DPO identities that could resolve this and also reports 113 DPO axes where the two combined table slices contain 339 arcs. Judge validation is narrower than a blind human comparison: three colleagues see the DeepSeek decision before rating it reasonable or correcting it. A majority approves 61 of 70 cells; on 50 anchored rescoring cells, correlation with the human average is .962 and MAD is 4.7. This checks calibration after exposure to the judge, not independent human agreement. Three additional LLM judges preserve ArcANE-32B-DPO/Arc's first place on 300 cells, but they share the same synthetic references and rubric. The effective generalization unit is only five novels; there are no novel-, character-, or arc-clustered intervals, significance tests, or repeated generations. Code, data, weights, splits, outputs, annotations, and scripts are also not public despite a promise to release them after publication. The defensible contribution is a useful representation of narrative trajectories and evidence that explicitly supplying axis and phase improves agreement with references constructed under the same framework. It does not establish a unique literary interpretation, human personality, internal psychological state, DPO-independent transfer to the low-popularity novels, multi-turn consistency, or safe impersonation.

Pregunta de investigación

¿Puede evaluarse y entrenarse a un agente de role-play para que cambie su acción y razonamiento de acuerdo con la fase correcta del arco narrativo de un personaje, especialmente en situaciones no escritas en la obra?

Método

Construcción automática de benchmark y experimento comparativo. Dos corrientes LLM extraen eventos y estados de novelas, proponen ejes psicológicos, los reconcilian y segmentan en fases. Tres críticos LLM filtran todos los ejes y tres anotadores humanos validan los del test principal. Diseñadores y validadores LLM generan sondas con referencias por fase en tres distancias respecto a la fuente. Se comparan seis modelos y seis contextos mediante cuatro puntuaciones de un juez DeepSeek-V4-Flash. Qwen3-8B/32B se postentrena con SFT de dos profesores y DPO contrastando fases adyacentes; se añaden ablations de contexto, jueces alternativos, perturbación de trayectoria y análisis de errores.

Muestra: El corpus total declara 17 novelas en inglés, 80 personajes principales, 544 arcos y 4.601 sondas. El resultado principal usa cinco novelas, 25 personajes, 205 arcos y 1.754 sondas; la independencia real está agrupada por obra, personaje y arco. Tres anotadores validan ejes y tres colegas revisan 70 decisiones del juez. La réplica entre jueces usa 300 celdas de cuatro configuraciones.

Hallazgos

  • Arc es el contexto Overall más alto en los seis modelos principales y en 29 de 30 celdas modelo-por-novela.
  • La ventaja frente al mejor contexto alternativo es mayor en In-World y Out-of-World que en escenas tomadas de la fuente.
  • ArcHint muestra que etiqueta de eje e índice de fase casi reproducen el beneficio completo en modelos no entrenados.
  • MixedArc por debajo de Vanilla demuestra que un arco incorrecto puede perjudicar, pero no elimina la circularidad de referencias sintéticas.
  • ArcANE-32B-DPO supera a Qwen3-32B en 1.198 de 1.750 sondas puntuadas con delta medio 9,49 dentro del mismo protocolo.
  • DPO mejora modestamente a SFT en promedio y concentra la mejora en trayectoria, no en In-Scenario.
  • La validación humana anclada considera razonables 61/70 decisiones; no es una comparación ciega contra humanos.
  • Los conteos DPO implican con alta probabilidad que las dos novelas de baja popularidad forman parte de su entrenamiento.

Limitaciones

  • Las referencias In-World y Out-of-World son contrafactuales sintéticos, no verdad canónica o conducta observada.
  • Arc recibe el mismo eje y fase que estructuraron las referencias, por lo que dispone de información privilegiada frente a otros contextos.
  • El pool DPO de 12 novelas/55 personajes coincide con train más el supuesto test de baja popularidad; invalida su lectura held-out para ArcANE-DPO.
  • Las cifras de 113 ejes y 2.838 sondas DPO no se reconcilian con las tablas ni se explican mediante un manifiesto publicado.
  • El apéndice humano nombra Hung Lou Meng donde la evaluación de baja popularidad nombra The Underdogs.
  • La evaluación validada contiene solo cinco novelas y no presenta incertidumbre agrupada ni inferencia estadística.
  • Se usa una sola generación por condición sin estimar variabilidad estocástica.
  • Las correcciones humanas del juez están ancladas porque muestran primero su decisión.
  • El acuerdo entre jueces LLM comparte referencias y rúbrica y no prueba validez externa.
  • No hay código, datos, pesos, splits, salidas, anotaciones o scripts públicos.
  • Los modelos API no tienen snapshots inmutables, fechas y logs completos de ejecución.
  • El estudio es inglés, literario, unipersonal y de un turno; no cubre interacción sostenida.
  • Se discuten impersonación y actitudes históricas, pero no se evalúan empíricamente seguridad o sesgo.

Qué no demuestra

  • No establece una interpretación literaria única o humanamente consensuada de escenarios no escritos.
  • No demuestra personalidad humana, identidad interna, creencias o estados psicológicos reales en el modelo.
  • No demuestra generalización sin exposición DPO a las dos novelas de baja popularidad.
  • No aísla el efecto causal de la información de arco frente a etiqueta de fase, volumen y curación del contexto.
  • No demuestra equivalencia del juez LLM con evaluación humana ciega.
  • No demuestra robustez entre muchas novelas, consistencia multivuelta o evolución durante interacción.
  • No demuestra seguridad para impersonación o despliegue con usuarios.
  • No permite reproducir las métricas con los artefactos públicos actuales.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2606.05553v1

Fuente consultada: https://arxiv.org/abs/2606.05553v1

Revisión: Codex forty-seven-page full-text visual, TeX, dataset-arithmetic, DPO-split, synthetic-reference, judge-validation and artifact audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • DeepSeek-V4-Flash
  • DeepSeek-V4-Pro
  • Qwen3-8B
  • Qwen3-32B
  • ArcANE-8B-SFT
  • ArcANE-8B-DPO
  • ArcANE-32B-SFT
  • ArcANE-32B-DPO
  • HER-32B
  • CoSER-8B
  • CoSER-70B
  • gpt-5.4-mini
  • claude-sonnet-4-6
  • Claude Sonnet 4.5
  • Claude Opus 4.5
  • GPT-5.5

Instrumentos y métricas

  • APF (Action Phase-Fidelity)
  • RPF (Reasoning Phase-Fidelity)
  • RAE (Reasoning-Action Entailment)
  • PTF (Phase Trajectory Fidelity)
  • Q-Voice
  • Q-PhaseFit
  • Q-Anchor/Q-World
  • Q-Discrim
  • Human axis-validity majority
  • Human-anchored judge plausibility

Datos utilizados

  • ArcANE train: 10 novels, 48 characters, 308 arcs, 2,545 probes
  • ArcANE validated test: 5 novels, 25 characters, 205 arcs, 1,754 probes
  • ArcANE unvalidated low-popularity test: 2 novels, 7 characters, 31 arcs, 302 probes
  • ArcANE SFT: 45,690 synthetic rows
  • ArcANE DPO: 14,671 synthetic preference pairs across 2,516 probes

Evidencia y localización

  • Metadatos, versión y ausencia de enlaces oficiales a artefactos: Official arXiv record 2606.05553v1, checked 2026-07-17
  • Método, corpus, resultados, apéndices, prompts y limitaciones: arXiv v1, all forty-seven PDF pages and complete TeX source
  • Estado público de código, datos y modelos: Exact-title, arXiv-ID, ArcANE-32B, GitHub and Hugging Face searches checked 2026-07-17
  • Auditoría de solapamiento DPO, referencias sintéticas, juez, estadística y reproducibilidad: reports/verification/article-306-arcane-dpo-low-popularity-leakage-synthetic-reference-judge-validation-and-artifact-audit.json