Towards Real-world Human Behavior Simulation: Benchmarking Large Language Models on Long-horizon, Cross-scenario, Heterogeneous Behavior Traces

Evaluación y validez psicométrica2026arXivRevisión editorial aprobada

Autores: Jiawei Chen, Ruoxi Xu, Boxi Cao, Ruotong Pan, Yunfei Zhang, Yifei Hu, Yong Du, Tingting Gao, Yaojie Lu, Yingfei Sun, Xianpei Han, Le Sun, Xiangyu Wu, Hongyu Lin

Palabras clave: Persona conditioning, Human simulation, Safety and bias

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

14
Autores
9
Hallazgos
10
Limitaciones
8
Evidencias

Resumen editorial

Español

OmniBehavior propone un benchmark de simulación de conducta construido con trazas reales de Kuaishou. El artículo describe 200 usuarios, cinco escenarios, 22 tipos de acción y 2,12 millones de interacciones entre septiembre y noviembre de 2025. Cada perfil combina datos demográficos y familiares con historiales que pueden incluir marcas temporales exactas, textos de vídeo, OCR, ASR, búsquedas, productos, anuncios y conversaciones de atención al cliente. Los usuarios se eligen mediante K-means y se toma el más cercano a cada uno de 200 centroides: esta decisión amplía la diversidad cubierta, pero no produce una muestra representativa de la población ni permite estimar prevalencias. La tarea principal entrega perfil, historia y contexto actual para predecir acciones binarias, duración de vídeo o la siguiente respuesta de atención al cliente. El historial principal cubre septiembre; la prueba, octubre y noviembre; se anuncian 30 acciones de prueba por usuario y 6.000 casos. Se evalúan once modelos. Claude Opus 4.5 obtiene 44,55 en el ranking publicado, seguido por GLM-4.7 con 41,46 y Claude Sonnet 4.5 con 40,49; Qwen3-235B queda en 32,11. Sin embargo, la puntuación global es una media no ponderada de seis componentes heterogéneos: F1 de escenas binarias, 100 menos NMAE para duración y una puntuación textual de Claude-Sonnet-4.5 multiplicada por diez. No se aportan intervalos ni pruebas para las diferencias de ranking, y Claude-Sonnet-4.5 actúa a la vez como competidor, juez textual y anotador de sentimiento/estilo sin validación humana. En memoria, Qwen3-235B obtiene 24,27 con resumen, 21,13 con truncado y 20,38 con RAG; son promedios de escenas distintas y no bastan para generalizar sobre todas las memorias. En 66 historiales de más de 128k tokens, ampliar el contexto no mejora de forma consistente. El artículo interpreta como cadenas causales 180 trayectorias previas a conversiones inferidas por Claude y revisadas manualmente; al ser logs observacionales sin contrafactual ni intervención, son atribuciones retrospectivas, no efectos causales. También compara el drift Jaccard diario de OmniBehavior, 0,6311, con LoCoMo, 0,1698, pero plataforma, tareas y generación difieren y no aíslan una propiedad general de datos reales frente a sintéticos. Sus etiquetas de hyperactivity, utopian bias y personality homogenization dependen de un muestreo equilibrado, anotación de Claude y vectores de tasas de acción; la última mide similitud conductual, no personalidad validada. Hay además inconsistencias de artefacto. Los 2,12 millones sobre 200 usuarios implican 10.600 acciones por usuario, mientras que la media declarada de 8.143 implica 1.628.600, una diferencia no explicada de 491.400. En una auditoría determinista de 20 pares del snapshot público, los JSON ingleses suman 1.324 acciones y los chinos 2.688; solo cinco pares coinciden y la diferencia se concentra en vídeo, 355 frente a 1.719. Esto demuestra deriva en la muestra revisada, no una tasa global. El código exige al menos 60 acciones para construir 30 casos y la versión publicada contiene usuarios auditados por debajo de ese umbral, por lo que no garantiza 200 usuarios ni 6.000 tareas; tampoco incluye configuración reproducible para los once modelos, salidas, juicios o resultados. El dataset es público y no restringido por acceso. Aunque se reemplazan identificadores directos, las marcas temporales, demografía y contenidos raros siguen siendo cuasi-identificadores longitudinales; no se documentan consentimiento, evaluación de privacidad, retirada, contacto de takedown ni rendimiento del proceso de anonimización. El trabajo aporta un recurso industrial rico y código inspeccionable, pero sus resultados deben leerse como un benchmark curado y una prepublicación arXiv v2, no como una simulación representativa, una prueba causal o una validación de personalidad humana.

English

OmniBehavior proposes a behavior-simulation benchmark built from real Kuaishou traces. The paper describes 200 users, five scenarios, 22 action types, and 2.12 million interactions from September through November 2025. Each profile combines demographic and household attributes with histories that may include exact timestamps, video text, OCR, ASR, searches, products, advertisements, and customer-service conversations. Users are selected with K-means by taking the person nearest each of 200 centroids: this broadens diversity coverage but does not produce a population-representative sample or support prevalence estimates. The main task supplies a profile, history, and current context to predict binary actions, video duration, or the next customer-service reply. The primary setup uses September for history and October-November for testing, with a claimed 30 test actions per user and 6,000 cases. Eleven models are evaluated. Claude Opus 4.5 scores 44.55 on the published ranking, followed by GLM-4.7 at 41.46 and Claude Sonnet 4.5 at 40.49; Qwen3-235B scores 32.11. The overall score, however, is an unweighted mean of six heterogeneous components: binary-scene F1, 100 minus NMAE for duration, and a Claude-Sonnet-4.5 text score multiplied by ten. No intervals or tests accompany rank differences, and Claude-Sonnet-4.5 is simultaneously a competitor, text judge, and sentiment/style annotator without human validation. For memory, Qwen3-235B scores 24.27 with summarization, 21.13 with truncation, and 20.38 with RAG; these are averages across unlike scenes and do not support a general conclusion about all memory systems. Across 66 histories longer than 128k tokens, increasing context does not improve performance consistently. The paper calls 180 pre-conversion trajectories inferred by Claude and manually reviewed causal chains; because they come from observational logs without an intervention or counterfactual, they are retrospective attributions rather than causal effects. It also compares daily Jaccard drift in OmniBehavior, .6311, with LoCoMo, .1698, but platform, tasks, and generation differ and do not isolate a general real-versus-synthetic property. Its hyperactivity, utopian-bias, and personality-homogenization labels depend on balanced sampling, Claude annotations, and action-rate vectors; the last measures behavioral similarity, not validated personality. Artifact inconsistencies further constrain interpretation. Dividing 2.12 million interactions by 200 users gives 10,600 per user, whereas the reported 8,143 average implies 1,628,600, an unexplained difference of 491,400. In a deterministic audit of 20 pairs from the public snapshot, English JSON files contain 1,324 actions and Chinese files 2,688; only five pairs match, with the difference concentrated in video events, 355 versus 1,719. This establishes release drift in the audited sample, not a corpus-wide mismatch rate. The code requires at least 60 actions to construct 30 cases, while audited released users fall below that threshold, so the current artifact does not guarantee 200 users or 6,000 tasks; it also lacks reproducible configuration for all eleven models, outputs, judgments, and results. The dataset is public and ungated. Although direct identifiers are replaced, precise timestamps, demographics, and rare content remain longitudinal quasi-identifiers; consent, privacy evaluation, withdrawal, takedown contact, and anonymization performance are undocumented. The work contributes a rich industrial resource and inspectable code, but its findings should be read as results on a curated benchmark and an arXiv v2 preprint, not as representative simulation, causal evidence, or validated human personality measurement.

Pregunta de investigación

¿Hasta qué punto los LLM actuales pueden simular acciones humanas heterogéneas a partir de historiales largos y multiescenario, y qué diferencias estructurales aparecen entre sus predicciones y las trazas reales?

Método

Se construye un benchmark con logs longitudinales de Kuaishou. Doscientos usuarios se seleccionan por proximidad a centroides K-means definidos sobre rasgos demográficos, actividad, intereses y preferencias de escenario. Tras limpieza y seudonimización, se preparan tareas de predicción binaria, duración de vídeo y generación textual. Once LLM reciben perfil, historial y contexto; sus resultados se agregan en una media de seis componentes. Análisis auxiliares comparan longitud de contexto, truncado/RAG/resumen, cobertura de intereses, trayectorias previas a conversiones y similitud de patrones de acción.

Muestra: El artículo declara 200 usuarios de Kuaishou y 2,12 millones de interacciones entre septiembre y noviembre de 2025. La selección toma un usuario próximo a cada uno de 200 centroides K-means para maximizar diversidad. El benchmark principal anuncia 30 acciones de prueba por usuario, 6.000 tareas. Los análisis auxiliares usan 180 conversiones y 66 historiales de más de 128k tokens. La auditoría de versión revisó 20 pares inglés/chino del snapshot público fijado.

Hallazgos

  • Claude Opus 4.5 lidera la puntuación compuesta con 44,55; GLM-4.7 obtiene 41,46, Claude Sonnet 4.5 40,49 y GPT-5.2 39,07, pero no hay incertidumbre para ordenar diferencias pequeñas.
  • La puntuación global es la media no ponderada de seis componentes con unidades y fiabilidad distintas; el código confirma 100-NMAE para duración y Claude textual por diez.
  • En Qwen3-235B, resumen obtiene 24,27, truncado 21,13 y RAG 20,38 en el promedio heterogéneo publicado; ampliar contexto tampoco mejora consistentemente en 66 historiales largos.
  • De 180 trayectorias atribuidas a conversiones, 81,8 % cruza escenarios y más de 60 % supera tres días; el diseño observacional no las identifica como causas.
  • El drift diario Jaccard es 0,6311 en OmniBehavior y 0,1698 en LoCoMo, una comparación descriptiva entre datasets no equivalentes.
  • La razón de distancias intra/interusuario es 0,29 para trazas humanas y 0,66-0,87 para modelos; mide similitud de tasas de acción, no personalidad psicométrica.
  • Los totales declarados son incompatibles: 2,12 millones/200 equivalen a 10.600 interacciones por usuario, no a la media de 8.143 reportada.
  • En 20 pares públicos auditados, inglés contiene 1.324 acciones y chino 2.688; el desfase de 1.364 eventos corresponde a vídeo y contradice la sincronización completa en esa muestra.
  • El artefacto ofrece código y datos reales, pero la versión pública no garantiza los 200 usuarios/6.000 casos ni reproduce la tabla de once modelos.

Limitaciones

  • La muestra cubre centroides diversos, pero no informa tamaño de población base, probabilidades de inclusión ni pesos de cluster; no es representativa ni apta para estimar prevalencias.
  • La media global mezcla seis métricas heterogéneas con pesos iguales no validados; no se reportan intervalos, bootstrap, tests ni sensibilidad a pesos o jueces.
  • Claude-Sonnet-4.5 compite, juzga texto y etiqueta sentimiento/estilo sin calibración humana, análisis de acuerdo ni juez alternativo.
  • Las cadenas de conversión son inferidas retrospectivamente sobre observaciones; no hay intervención, contrafactual, control negativo ni protocolo de acuerdo entre revisores.
  • El muestreo de prueba equilibra tiempo, dominios y acciones de alto/bajo valor, por lo que hyperactivity no describe directamente la prevalencia natural de la plataforma.
  • Personality homogenization se operacionaliza con vectores de tasas de acción y no mediante un constructo psicológico validado.
  • El snapshot inglés/chino presenta deriva de acciones y el código excluye usuarios con menos de 60 registros sin exigir que permanezcan 200; faltan splits, salidas, juicios y configuraciones de todos los modelos.
  • La anonimización no publica precisión/recall, recuentos ni protocolo; trazas temporales y contenido raro conservan riesgo de reidentificación.
  • No se documentan consentimiento, base ética, retirada, retención, contacto de takedown ni cómo se compatibiliza la petición de no reidentificar con la licencia CC BY-NC-SA.
  • Es una prepublicación arXiv v2; la sección de limitaciones del paper se centra en la evolución de modelos y memoria y omite varios de estos límites.

Qué no demuestra

  • No establece que los 200 usuarios representen a Kuaishou ni que los patrones observados midan la frecuencia natural de las conductas en la población.
  • No prueba relaciones causales entre escenarios y conversiones; las cadenas son explicaciones plausibles de secuencias observadas.
  • No demuestra que los datos sintéticos en general tengan menos drift que los reales, porque OmniBehavior y LoCoMo no son controles equivalentes.
  • No valida personality homogenization como pérdida de personalidad humana ni utopian bias con anotadores humanos independientes.
  • No sustenta un ranking estable de once modelos bajo otras ponderaciones, jueces o muestras, ni cuantifica la incertidumbre de las diferencias.
  • No garantiza que el release inglés sea una traducción completa y sincronizada del chino ni que el código publicado genere exactamente 6.000 tareas.
  • No permite reproducir la tabla completa sin APIs, versiones, configuraciones, salidas y registros de juez ausentes.
  • No elimina el riesgo de reidentificación ni documenta consentimiento o mecanismos efectivos para que las personas retiren sus trazas.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2604.08362v2 preprint

Fuente consultada: https://arxiv.org/pdf/2604.08362v2

Revisión: Codex 27-page visual full-text, TeX/source, sampling, metric arithmetic, 20-pair bilingual release, privacy, code, artifact and reproducibility audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • Claude Opus 4.5
  • Claude Sonnet 4.5
  • Claude Haiku 4.5
  • Claude Sonnet 4
  • Gemini 3 Flash
  • GPT-5.2
  • GPT-4o
  • GLM-4.7
  • DeepSeek-V3
  • Kimi-K2-Instruct-0905
  • Qwen3-235B-A22B-Instruct-2507
  • Qwen2.5-72B and Qwen3-235B for data processing

Instrumentos y métricas

  • Per-scene F1 for binary actions
  • Normalized mean absolute error and 100-NMAE for video duration
  • Claude-Sonnet-4.5 textual judge on a 1-10 scale
  • Unweighted six-component overall score
  • Daily Jaccard interest drift
  • 19-dimensional action-rate distance ratio
  • Claude-Sonnet-4.5 sentiment and language-style labels

Datos utilizados

  • OmniBehavior Kuaishou longitudinal traces
  • LoCoMo comparison corpus
  • Public Hugging Face OmniBehavior Chinese and English release

Evidencia y localización

  • Diseño, muestreo, escenarios, limpieza, anonimización y tamaño declarado: Paper, pp. 1-6, sections 1-2 and Figures 1-2
  • Cobertura multiescenario, 180 conversiones y comparación con LoCoMo: Paper, pp. 6-8, section 3 and Figures 3-5
  • Tarea, once modelos, puntuación global y resultados principales: Paper, pp. 8-11, section 4 and Table 1
  • Contexto largo, memoria y análisis de sesgos conductuales: Paper, pp. 11-15 and 23-27; Figures 7-10 and Tables 2-6
  • Implementación de muestreo, umbral de 60 acciones y composición de métricas: GitHub commit c00c56dd5cb46e85714ba0ea93ab9241a6fce272; src/data/prepare_experiment_data.py and src/evaluation/metrics.py
  • Deriva inglés/chino, fechas, longitudes y riesgo residual de identificadores: Deterministic audit of 20 paired files from Hugging Face dataset commit 28479ffdca40b8657018719b0763e56f2981d254
  • Licencia, acceso público y advertencias de privacidad: Hugging Face README and LICENSE, SHA-256 3b8b220e3d2ca89c12dd4a6e5ad66464598969c3a9e442e3beec8404e7e356f0 and 9e502ba75fd0fd30cea5497b438a4bc12f07f02bc932a7a6041fd6a18b8f46a0
  • Auditoría integral de validez, puntuación, privacidad, código y reproducibilidad: reports/verification/article-373-omnibehavior-sampling-causal-attribution-composite-score-llm-judge-bilingual-data-drift-privacy-code-and-reproducibility-audit.json