Analyzing Persona Effects in Generated Explanations from Multimodal LLM Agents in Urban Perception

Sociedad, cultura y comportamiento colectivo2026arXivRevisión editorial aprobada

Autores: Neemias da Silva, Myriam Delgado, Rodrigo Minetto, Daniel Silver, Thiago H Silva

Palabras clave: Persona conditioning

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

5
Autores
9
Hallazgos
16
Limitaciones
3
Evidencias

Resumen editorial

Español

Este preprint estudia si etiquetas de persona cambian tres salidas de Qwen3-VL:8B al describir 50 imágenes urbanas de PerceptSent: caption, etiquetas de percepción y justificación del sentimiento. Cruza género binario, nivel económico binario, orientación política binaria y tres arquetipos llamados Pragmatic, Empathetic y Analytical para formar 24 perfiles. Cada perfil se repite 50 veces, dando 1.200 identificadores de agente. Cada llamada usa el mismo modelo, temperatura 0,1, seed 42 y, para las personas, think=True. El corpus publicado contiene 59.708 salidas de persona y dos baselines sin persona de 50 salidas cada uno. El análisis aplica all-MiniLM-L6-v2 y coseno a captions y justificaciones, Jaccard a tags, comparaciones within/cross con Mann-Whitney por imagen, Pearson entre matrices de perfil y BERTopic sobre justificaciones. El resultado descriptivo central es coherente con la intervención: los captions convergen entre perfiles, mientras las justificaciones muestran más variación. En justificaciones, compartir nivel económico aumenta la similitud en 0,062 y compartir orientación política en 0,044, ambos con p<0,001; personality queda en 0,023, p=0,052, y género en 0,002, p=0,702. Ninguna dimensión alcanza p<0,05 para captions o tags. La divergencia entre perfiles en justificaciones correlaciona con la de tags, r=0,67, p<0,001. Los temas de justificación se asocian a sentimiento, deterioro, belleza, trabajo y desarrollo. Frente al pool de persona, los dos outputs sin persona por imagen tienen similitudes cercanas: captions 0,865 y 0,862 frente a 0,873 del pool; justificaciones 0,550 y 0,539 frente a 0,564. La contribución defendible es estrecha: bajo este prompt y modelo, las instrucciones demográficas dejan más huella en el campo que explícitamente exige hablar con la voz de la persona que en el campo que explícitamente exige ser objetivo e independiente de la persona. El estudio acierta además al advertir que estas salidas no son proxies de grupos humanos. La auditoría completa del PDF, TeX y corpus revela límites ausentes del resumen. Primero, el diseño completo exige 24*50*50=60.000 filas, no 59.708. Hay 292 fallos, fuertemente concentrados: 185 pertenecen a una imagen, 48 a otra y 21 a una tercera. El paper dice que cada agente anota las 50 imágenes y no publica política de missingness. Los fallos también varían por prompt: Empathetic falla 0,645% y Pragmatic 0,335%. Segundo, el pipeline upstream considera éxito cualquier JSON con sentimiento válido; no exige los otros campos ni valida que los tags pertenezcan al vocabulario. Entre las 59.708 filas aceptadas hay 290 justificaciones vacías, 32 captions vacíos, 13 listas de tags vacías, 6.820 selecciones fuera del vocabulario que afectan 6.652 filas y dos filas con seis tags pese al máximo de cinco. Solo 53.043 filas tienen tags no vacíos y completamente válidos. Algunos casos desplazan lenguaje de persona al caption y dejan la justificación vacía. El paper no explica limpieza o exclusión, aunque esas tres columnas son exactamente sus outcomes. Tercero, los 50 agentes por perfil no son personas independientes ni prompts distintos: reciben los mismos cuatro labels, la misma imagen, el mismo modelo, seed y configuración; persona_id no entra en el prompt. Son réplicas estocásticas de una misma intervención. La mediana por grupo perfil-imagen es 26 captions únicos y 49 justificaciones únicas, mientras la categoría de sentimiento modal ocupa 98%, así que sí existe variación textual, pero no 1.200 unidades humanas independientes. Las unidades de generalización siguen siendo 24 prompts, 50 imágenes y un modelo. Cuarto, la separación caption/justificación está diseñada por el propio prompt: caption debe ser objetivo y persona-independent; justification debe escribirse in your voice y justificar el score. Hallar mayor efecto de persona en la segunda columna demuestra sobre todo seguimiento de instrucciones distintas. Ejemplos publicados dicen literalmente que algo fits a conservative view o aligns with values; la señal puede ser fuga del label y estereotipo aprendido, no percepción humana. Pragmatic, Empathetic y Analytical tampoco proceden de una escala de personalidad validada. No hay anotadores humanos emparejados por demografía que permitan hablar de validez de persona. Quinto, los tests se describen como resúmenes within/cross por la misma imagen y luego Mann-Whitney no pareado; una prueba pareada o modelo jerárquico/cluster bootstrap respetaría mejor el diseño. Se reportan al menos 12 tests sin corrección múltiple, intervalos ni tamaños estandarizados. Los dos p<0,001 probablemente sobreviven una corrección simple, pero no resuelven la validez del constructo. El p de Pearson entre pares de perfiles tampoco puede tratar pares que comparten perfiles e imágenes como independientes; no se aporta permutación de matriz. Sexto, BERTopic carece de encoder, UMAP, HDBSCAN, seed, min-topic-size, política de outliers y regla de nombres. Se anuncia Jensen-Shannon pero no se publican valores, tests o IC. Como los temas se alinean mucho con el sentimiento ya alterado por el prompt, no se separa framing temático de mediación por label. Séptimo, el baseline no persona es estructural y geométricamente asimétrico: compara una única realización con un centroide, mientras el otro eje promedia cientos de pares. El propio paper lo reconoce, pero después afirma que confirma que el efecto no es stochastic variation. Una sola realización por imagen no permite esa conclusión. Finalmente, el manuscrito promete un repositorio público, pero la nota visible dice que estará disponible tras publicación y la URL comentada no existe. El repositorio del estudio previo sí publica generación y corpus y permite descubrir los problemas anteriores, pero no contiene embeddings, código BERTopic, matrices, tests ni outputs de este artículo. Ninguna figura específica puede recalcularse. Por tanto, el trabajo aporta evidencia de que un modelo repite labels demográficos en justificaciones cuando se le ordena adoptar esas labels; no demuestra simulación fiel de personas, percepción demográfica humana, mejora de anotación, causalidad psicológica ni generalización a otros modelos, culturas, imágenes o prompts.

English

This preprint asks whether persona labels alter Qwen3-VL:8B captions, perception tags, and sentiment justifications for 50 PerceptSent urban images. Binary gender, income, and political labels plus three author-chosen personality archetypes form 24 profiles, each repeated 50 times. All persona calls use the same model, temperature 0.1, seed 42, and think=True; two no-persona variants provide one output per image. The paper analyzes 59,708 persona rows and 100 no-persona rows with all-MiniLM-L6-v2 cosine similarity, tag-set Jaccard similarity, per-image within/cross comparisons, profile-pair Pearson correlation, and BERTopic. Captions are highly similar across profiles. Justifications show reported within-group advantages for income of 0.062 and politics of 0.044, both p<0.001; personality is 0.023, p=0.052, and gender 0.002, p=0.702. No caption or tag dimension reaches p<0.05. Justification and tag divergence correlate at r=0.67. The defensible finding is narrow: with this model and prompt, demographic instructions leave more signal in the field explicitly required to speak in the persona's voice than in the field explicitly required to remain objective and persona-independent. The full artifact audit exposes major omitted boundaries. The factorial design requires 60,000 persona rows, but 292 failed. Failures are item-clustered: 185 occur on one image, 48 on another, and 21 on a third. Failure rates also vary by profile label, yet the paper says every agent annotated all 50 images and provides no missing-data policy. More seriously, the released pipeline accepts a row whenever sentiment is valid; it does not require the other fields or enforce tag vocabulary membership. The 59,708 accepted rows contain 290 empty justifications, 32 empty captions, 13 empty tag lists, and 6,820 out-of-vocabulary selections affecting 6,652 rows. Only 53,043 rows have a non-empty, fully valid tag list. Some records leak persona commentary into captions while leaving justification empty. The paper does not describe cleaning for the exact fields it analyzes. The 50 nominal agents per profile are not independent persons or prompts: persona ID is absent from the prompt, so they are repeated stochastic calls with identical labels, image, model, seed, and configuration. Text varies, but the generalization units remain 24 prompts, 50 images, and one model. Construct interpretation is further limited because the prompt mandates persona-independent captions and persona-voiced justifications. Thus the central contrast is partly an instruction manipulation check. Released examples literally repeat conservative, low-income, and progressive framing, so measured separation may be label leakage and stereotype reproduction rather than human perception. Pragmatic, Empathetic, and Analytical are not a validated personality instrument, and no demographically matched human outputs establish persona validity. The per-image within/cross summaries are naturally paired, but the paper reports unpaired Mann-Whitney tests. At least twelve comparisons lack multiplicity correction, confidence intervals, or standardized effects. Profile-pair Pearson p-values ignore shared profiles and images and require matrix-aware permutation. BERTopic configuration, outlier handling, topic naming, Jensen-Shannon values, tests, and uncertainty are absent; topic patterns are also strongly confounded with sentiment. The no-persona comparison contrasts one realization and a centroid with average pairwise persona similarity, so it cannot rule out stochastic variation despite the paper's claim. Finally, the manuscript promises a public repository, but the rendered note says it will appear after publication and the commented GitHub URL is unavailable. The upstream corpus repository exposes generation and raw outputs, enabling this integrity audit, but not the embeddings, topic model, statistical code, or processed artifacts for this paper. The release supports prompt-conditioned linguistic variation, not faithful demographic simulation, human perceptual validity, improved annotation, psychological causality, or generalization across models, cultures, images, and prompts.

Pregunta de investigación

¿Las etiquetas de persona afectan más al grounding descriptivo, a las etiquetas de percepción o al framing interpretativo de un MLLM al evaluar las mismas escenas urbanas?

Método

Qwen3-VL:8B anota 50 imágenes urbanas bajo 24 combinaciones factoriales de género, nivel económico, política y tres arquetipos, con 50 llamadas repetidas por perfil, más dos baselines sin persona. Coseno all-MiniLM-L6-v2, Jaccard, comparaciones within/cross, Pearson y BERTopic. La auditoría revisa las diez páginas, TeX completo, figuras, pipeline upstream y las 60.000 filas de éxitos y fallos.

Muestra: 24 perfiles por 50 identificadores y 50 imágenes implican 60.000 llamadas. Se aceptan 59.708 y fallan 292; las repeticiones comparten prompt, imagen, modelo, seed y configuración. Hay 100 outputs sin persona.

Hallazgos

  • Justificaciones: economic status delta +0,062 y politics +0,044, ambos p<0,001.
  • Personality p=0,052 y gender p=0,702 en justificaciones.
  • Ninguna dimensión alcanza p<0,05 en captions o tags.
  • Divergencia de justificaciones y tags correlaciona r=0,67 entre pares de perfil.
  • El prompt ordena captions persona-independientes y justificaciones en voz de la persona.
  • 292 fallos se concentran especialmente en tres imágenes.
  • Las filas aceptadas incluyen 290 justificaciones vacías, 32 captions vacíos y 6.652 filas con tags fuera de vocabulario.
  • El baseline sin persona es una única realización por imagen y no excluye variación estocástica.
  • El código específico de análisis no está publicado.

Limitaciones

  • Un modelo, 50 imágenes y 24 prompts culturalmente estrechos.
  • Réplicas de inferencia tratadas como 1.200 agentes independientes.
  • Missingness no documentada y concentrada por imagen/prompt.
  • Validación de JSON solo exige sentimiento válido.
  • Campos vacíos, field leakage y tags fuera de vocabulario en éxitos.
  • Caption y justification reciben instrucciones funcionalmente distintas.
  • Arquetipos de personality sin instrumento validado.
  • Sin humanos emparejados por demografía o validación perceptual.
  • Mann-Whitney ignora el apareamiento por imagen.
  • Multiplicidad e intervalos no tratados.
  • Pearson sobre pares de perfil dependientes.
  • Un solo encoder semántico sin robustness checks.
  • BERTopic y Jensen-Shannon insuficientemente especificados.
  • Tema confundido con sentimiento.
  • Baseline asimétrico con una sola realización.
  • Repositorio prometido no disponible y análisis irreproducible.

Qué no demuestra

  • Que existan 1.200 personas o agentes psicológicamente independientes.
  • Que los outputs representen percepción humana de grupos demográficos.
  • Que los arquetipos midan personalidad validada.
  • Que la diferencia caption-justification emerja fuera de la instrucción del prompt.
  • Que los temas sean independientes del sentimiento generado.
  • Que el baseline descarte variación estocástica.
  • Que persona prompting mejore exactitud, utilidad o justicia de anotación.
  • Generalización a otros modelos, imágenes, idiomas, culturas o prompts.
  • Reproducción independiente de figuras y p-values específicos.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2605.29064v1, submitted 2026-05-27, 10 pages, arXiv non-exclusive distribution license; complete TeX and upstream released corpus audited

Fuente consultada: https://arxiv.org/abs/2605.29064

Revisión: Codex 10-page visual, complete TeX, prompt, released-corpus integrity, statistics, construct-validity, baseline and reproducibility audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • Qwen3-VL:8B
  • all-MiniLM-L6-v2
  • BERTopic no configurado en el paper

Instrumentos y métricas

  • 24 prompts factoriales
  • 593 etiquetas de percepción declaradas
  • Cosine similarity
  • Jaccard similarity
  • Mann-Whitney U per-image
  • Pearson profile-pair correlation
  • BERTopic
  • Jensen-Shannon prometido sin valores

Datos utilizados

  • PerceptSent, 50 imágenes seleccionadas
  • 59.708 anotaciones de persona aceptadas
  • 292 fallos publicados upstream
  • 50 no-persona think=True
  • 50 no-persona think=False
  • Repositorio upstream mllm-persona-evaluation

Evidencia y localización

  • Método, resultados, figuras y limitaciones: arXiv:2605.29064v1, all 10 pages rendered and visually inspected, sha256 fc961b09f13e9da5fc2fbe4d5e26da8aa86a8b6adde575c4eb971c9213423adc
  • Prompt, datos, fallos y validación del pipeline: neemiasbsilva/mllm-persona-evaluation commit 71fb693244686b0c1b6642d31008a1a39edd06c3
  • Integridad de outputs, estadística, baseline y reproducibilidad: reports/verification/article-316-urban-persona-output-integrity-statistics-baseline-and-reproducibility-audit.json