Persona Non Grata: LLM Persona-Driven Generations in MCQA are Unstable in Distinct Dimensions

Personas, identidad y agentes2026arXivRevisión editorial aprobada

Autores: César Guerra-Solano, Xiang Lorraine Li

Palabras clave: Persona conditioning, MCQA, Prompt sensitivity, Evaluation robustness, Sampling temperature, Rank instability, Question-level consistency, Demographic persona prompting

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

2
Autores
8
Hallazgos
10
Limitaciones
6
Evidencias

Resumen editorial

Español

Este preprint estudia cuánto cambian las conclusiones de evaluaciones MCQA condicionadas por una persona cuando varían el prompt de persona, el prompt de tarea y la temperatura. Aunque una frase de métodos dice cuatro modelos, las tablas y análisis evalúan cinco: Llama-3.2-1B-Instruct, Llama-3.1-8B-Instruct y Qwen2.5-Instruct de 1,5B, 7B y 14B. Cada modelo responde las 5.013 preguntas de un compuesto de MMLU, Social IQa y NormAd-Eti bajo 41 etiquetas y 48 configuraciones: cuatro formatos de prompt de persona, cuatro de tarea y temperaturas 0, 0,5 y 1. Las 41 etiquetas incluyen 39 roles o identidades y dos controles, `a human` y `NO PERSONA`; por tanto, los agregados denominados persona también incluyen controles. El diseño implica 1.968 evaluaciones completas y 9.865.584 respuestas a preguntas por modelo. Los autores proponen tres métricas. IA es la diferencia absoluta media de accuracy entre pares de configuraciones y ofrece una medida descriptiva clara. IO resume la desviación ponderada de los rankings de etiquetas, pero sus pesos y su factor final dependen de la dispersión de accuracy entre personas; no es una medida pura de cambio de rango. IQ calcula uno menos la intersección de preguntas correctas en todas las configuraciones dividida por su unión. Esta definición depende mecánicamente del número de configuraciones: con 48 condiciones, exigir que una pregunta sea correcta en todas hace que la intersección se reduzca aunque la probabilidad de acierto sea estable. La propia tabla de sensibilidad lo muestra: al pasar de 12 a 48 configuraciones, IQ sube de 61,083 a 78,293 para Llama-8B y de 32,061 a 52,828 para Qwen-14B, cambios incompatibles con describir la métrica como apenas variable. Su correlación de .948–.990 con Fleiss kappa usa la misma matriz binaria de aciertos y no valida de forma independiente el constructo. Descriptivamente, los modelos pequeños son por lo general más sensibles; Qwen-7B presenta los menores IA e IO, mientras Qwen-14B mejora IQ pero empeora ligeramente IA e IO respecto a 7B. El formato de tarea es el factor más influyente, pero sus niveles cambian entre responder solo una opción y generar una explicación, además de recordar o no la persona: no es únicamente una variación superficial de redacción. Matemáticas y razonamiento social/commonsense muestran más sensibilidad y las configuraciones pueden cambiar la mejor y peor etiqueta, un resultado útil para advertir contra rankings de personas basados en una sola configuración. La comparación entre cuatro condiciones llamadas estables a temperatura 0 y cuatro llamadas inestables a temperatura 1 favorece la accuracy en cuatro de cinco modelos, pero selección y evaluación se hacen con los mismos datos y las métricas derivan de accuracy o sus rankings; es evidencia exploratoria, no causal ni held-out. Cada celda estocástica se observa una sola vez, de modo que no se separa el efecto de temperatura o prompt de la variación de la realización aleatoria. Tampoco se publican salidas, dataset compuesto, código de etiquetado, parser, métricas, semillas, revisiones exactas de modelos o scripts de análisis. El hallazgo defendible es que las conclusiones de este protocolo persona-MCQA pueden depender materialmente de la configuración; no que las tres métricas sean dimensiones validadas e invariantes, ni que las etiquetas demográficas reflejen diferencias humanas.

English

This preprint studies how much persona-conditioned MCQA conclusions change when persona prompts, task prompts, and temperature vary. Although one methods sentence says four models, the tables and analyses evaluate five: Llama-3.2-1B-Instruct, Llama-3.1-8B-Instruct, and Qwen2.5-Instruct at 1.5B, 7B, and 14B. Each model answers a 5,013-question composite of MMLU, Social IQa, and NormAd-Eti under 41 labels and 48 configurations: four persona-prompt formats, four task-prompt formats, and temperatures 0, 0.5, and 1. The 41 labels consist of 39 roles or identities plus two controls, `a human` and `NO PERSONA`, so aggregates described as persona results also include controls. The design implies 1,968 full evaluations and 9,865,584 question outputs per model. The authors propose three metrics. IA is the mean absolute accuracy difference over pairs of configurations and is a transparent descriptive sensitivity measure. IO summarizes weighted variation in label ranks, but its setting weights and final scale factor depend on between-label accuracy dispersion, so it is not a pure rank-change measure. IQ is one minus the intersection of correct-question sets across every configuration divided by their union. This definition mechanically depends on the number of configurations: with 48 conditions, requiring a question to be correct in all of them shrinks the intersection even when accuracy probability is stable. The paper's own sensitivity table demonstrates the effect. Moving from 12 to 48 configurations increases IQ from 61.083 to 78.293 for Llama-8B and from 32.061 to 52.828 for Qwen-14B, changes inconsistent with describing the metric as only slightly variable. Its .948-.990 correlation with Fleiss' kappa uses the same binary correctness matrix and is not independent construct validation. Descriptively, smaller models are generally more sensitive. Qwen-7B has the lowest IA and IO, while Qwen-14B improves IQ but is slightly worse than 7B on IA and IO. Task-prompt format is the strongest reported factor, but its levels switch between option-only answering and explanation generation and also change whether the model is reminded of its persona; this is more than surface wording. Math and commonsense/social reasoning show greater sensitivity, and configurations can change the best and worst labels, a useful warning against single-configuration persona rankings. Four settings designated stable at temperature 0 outperform four temperature-1 settings in accuracy for four of five models, but selection and evaluation use the same data, while the metrics derive from accuracy or its ranks. The comparison is exploratory, not causal or held out. Each stochastic cell is observed once, so prompt or temperature effects cannot be separated from random realization variance. No public outputs, composite dataset, labeling code, parser, metric code, seeds, exact model revisions, or analysis scripts were located. The defensible conclusion is that conclusions from this persona-MCQA protocol can materially depend on evaluation configuration, not that all three metrics are validated, setting-invariant dimensions or that demographic labels reflect human differences.

Pregunta de investigación

¿Cuánto cambian la accuracy, el ranking entre etiquetas de persona y el conjunto de preguntas acertadas de una evaluación MCQA al variar el formato del prompt de persona, el formato del prompt de tarea y la temperatura?

Método

Estudio factorial descriptivo con cinco LLM open-weight de dos familias. Cruza 41 etiquetas, 39 roles/identidades y dos controles, con 48 configuraciones de cuatro prompts de persona, cuatro prompts de tarea y tres temperaturas. Cada combinación se aplica una vez a 5.013 preguntas de diez dominios procedentes de MMLU, Social IQa y NormAd-Eti. Calcula diferencias absolutas de accuracy, variación ponderada de rankings y Jaccard multiconjunto de preguntas correctas; estratifica por modelo, hiperparámetro, dominio y grupo de persona, compara configuraciones designadas estables/inestables y añade un clasificador roberta-base para predecir las mejores etiquetas.

Muestra: Cinco modelos instruidos de Llama y Qwen; 41 etiquetas agrupadas en género, sexualidad, raza/etnia, edad, discapacidad, religión, política, ocupación y dos controles; 48 configuraciones; 5.013 preguntas. Son 1.968 evaluaciones completas y 9.865.584 salidas por modelo, 49.327.920 salidas implícitas en total.

Hallazgos

  • Las conclusiones de accuracy y ranking entre etiquetas cambian con la configuración; distintas condiciones producen diferentes mejores y peores etiquetas, por lo que una sola configuración no sustenta un ranking robusto de personas.
  • Los modelos pequeños suelen mostrar mayor sensibilidad, pero Qwen-14B tiene IA e IO algo peores que Qwen-7B; cinco checkpoints de dos familias no establecen una ley general de escalado.
  • El formato de tarea presenta la asociación más fuerte, pero también cambia entre respuesta corta y explicación y modifica la saliencia de la persona; no aísla un efecto meramente formal del prompt.
  • Matemáticas y commonsense/razonamiento social presentan mayor sensibilidad descriptiva; atribuirlo a la composición del corpus de entrenamiento es una hipótesis no comprobada.
  • IA resume de forma transparente cambios de accuracy; IO mezcla movimiento de ranking y dispersión entre etiquetas; IQ depende fuertemente del número de configuraciones por usar la intersección de todas ellas.
  • La sensibilidad publicada de IQ entre 12 y 48 configuraciones alcanza 17,21 puntos en Llama-8B y 20,77 en Qwen-14B, contradiciendo la descripción de variación ligera.
  • Las condiciones llamadas estables a temperatura 0 tienen mayor accuracy en cuatro de cinco modelos, con Qwen-14B como excepción; la comparación es exploratoria y seleccionada sobre los mismos datos.
  • Los errores de parseo reportados son pequeños frente al total de fallos y no parecen explicar las diferencias agregadas, pero no hay salidas ni parser públicos para verificarlo.

Limitaciones

  • Cada celda modelo–etiqueta–pregunta–configuración tiene una sola salida pese a `do_sample=True`; faltan repeticiones y semillas para separar variación estocástica de efectos de hiperparámetro.
  • IQ exige acierto simultáneo en todas las configuraciones y por construcción aumenta al añadir condiciones; no es comparable sin fijar número y composición de configuraciones.
  • La correlación entre IQ y Fleiss kappa usa la misma matriz binaria y no constituye validación independiente ni demuestra tres dimensiones separables.
  • No se publican salidas, dataset compuesto, etiquetado automático de Social IQa, runner, parser, código de métricas, scripts de análisis, semillas, revisiones exactas o entorno.
  • No hay intervalos de incertidumbre ni modelo para la dependencia generada al reutilizar las mismas preguntas en 41 etiquetas y 48 configuraciones.
  • La comparación estabilidad–accuracy selecciona y evalúa condiciones en la misma muestra y usa métricas definidas desde accuracy o sus rankings.
  • Las 41 supuestas personas incluyen dos controles; las etiquetas demográficas son gruesas, no interseccionales ni validadas con las comunidades representadas.
  • La hipótesis de que la sensibilidad por dominio procede de carencias del corpus no se contrasta, y tampoco se audita contaminación de los benchmarks.
  • El clasificador auxiliar no documenta de forma autocontenida split, construcción de etiquetas, semillas, hiperparámetros, incertidumbre o resultados numéricos.
  • El texto de métodos afirma cuatro modelos aunque el estudio analiza cinco.

Qué no demuestra

  • No establece que toda generación guiada por persona sea inestable ni generaliza más allá de cinco modelos instruidos, dos familias, MCQA en inglés y estos prompts.
  • No aísla inestabilidad causada por introducir una persona, porque estudia sensibilidad dentro del paradigma y agrega 39 etiquetas con dos controles.
  • No valida IA, IO e IQ como tres constructos independientes, invariantes al número de condiciones o comparables entre diseños.
  • No demuestra causalmente que el formato de tarea o la temperatura produzcan los efectos observados, ni separa semántica del prompt y azar de muestreo.
  • No demuestra que elegir las condiciones denominadas estables mejore causalmente la accuracy en nuevos datos o modelos.
  • No permite interpretar diferencias entre etiquetas demográficas como capacidades, personalidades o variación individual de grupos humanos.
  • No sustenta la explicación causal basada en la cantidad de datos de entrenamiento por dominio.
  • No ofrece una reproducción computacional independiente ni permite auditar el parser, los casi 49,3 millones de resultados implícitos o el clasificador auxiliar.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2607.00937v1; preprint without an identified accepted venue

Fuente consultada: https://arxiv.org/pdf/2607.00937

Revisión: Codex 23-page full-text visual, TeX, publication, metric, statistical, artifact, reproducibility and claim audit, 2026-07-16

Aprobación: Codex fidelity pass, 2026-07-16

Modelos evaluados

  • Llama-3.2-1B-Instruct
  • Llama-3.1-8B-Instruct
  • Qwen2.5-1.5B-Instruct
  • Qwen2.5-7B-Instruct
  • Qwen2.5-14B-Instruct
  • roberta-base auxiliary best-persona classifiers

Instrumentos y métricas

  • Performance instability IA: mean absolute pairwise accuracy difference
  • Outcome instability IO: weighted standard deviation of persona ranks scaled by mean between-persona spread
  • Question correctness instability IQ: one minus all-setting Jaccard intersection over union
  • Fleiss' kappa comparison
  • Four persona prompt formats and four task prompt formats
  • Parsing-error rate

Datos utilizados

  • MMLU
  • Social IQa
  • NormAd-Eti
  • Unreleased 5,013-question composite grouped into ten domains

Evidencia y localización

  • Estatus de preprint, autores, fecha y alcance: Official arXiv record 2607.00937v1 and 23-page PDF, checked 2026-07-16
  • Modelos, 41 etiquetas, 5.013 preguntas y 48 configuraciones: arXiv v1, Sections 4-5 and Appendices A-D
  • Definiciones de IA, IO e IQ: arXiv v1, Section 3, Instability Metrics
  • Resultados por modelo, hiperparámetro, dominio, accuracy y cambios de ranking: arXiv v1, Sections 5-6 and Tables 1 and 4
  • Dependencia de IQ del número de configuraciones, correlaciones, parseo y clasificador: arXiv v1, Appendix E and Tables 8, 10 and 11
  • Auditoría de métricas, artefactos, reproducibilidad y fronteras de afirmación: reports/verification/article-285-arxiv-persona-mcqa-instability-metric-setting-count-replication-artifact-and-claim-audit.json