Evaluating Alignment of Behavioral Dispositions in LLMs

Evaluación y validez psicométrica2026arXivRevisión editorial aprobada

Autores: Amir Taubenfeld, Zorik Gekhman, Lior Nezry, Omri Feldman, Natalie Harris, Shashir Reddy, Romina Stella, Ariel Goldstein, Marian Croak, Yossi Matias, Amir Feder

Palabras clave: Psychometrics

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

11
Autores
8
Hallazgos
21
Limitaciones
6
Evidencias

Resumen editorial

Español

El estudio convierte ítems de cuestionarios psicológicos sobre empatía, regulación emocional, asertividad e impulsividad en pruebas de juicio situacional para asistentes. Parte de 332 enunciados, reduce manualmente el conjunto a 260, usa Gemini 3 Pro para filtrar y reformular, y retiene 161. Gemini 3 genera 16 escenarios por enunciado, 2.576 candidatos, condicionados a una clase provisional AGREE, OPPOSE o AMBIGUOUS. Tres anotadores deben aceptar por unanimidad que cada escenario contiene un dilema, que las dos acciones se oponen y que la acción agree refleja el enunciado; tras excluir el 8%, el paper declara 2.357 SJT. Cada uno recibe preferencias humanas supuestamente de 10 personas de un pool de 550, con neutral como medio voto y N/A filtrado.

Para 25 LLM, los autores muestrean 20 respuestas por escenario a temperatura 1,0. El prompt obliga a recomendar exactamente una de las dos acciones, prohíbe la neutralidad o ambas posibilidades y limita la salida a dos frases; Gemini 3 Flash clasifica cada texto como agree, oppose o neither. Comparan la frecuencia de la acción asociada al rasgo con la distribución humana mediante Trait-Positive Rate, diferencia absoluta, consistencia de la opción mayoritaria y alineamiento direccional respecto a 0,5. Reportan que los modelos mantienen más del 90% de consistencia cuando la preferencia humana está cerca de 50/50; que la alineación mejora con consenso y capacidad, aunque algunos modelos frontera discrepan en 15%-20% de casos con consenso no unánime; y que los modelos pequeños suelen acercarse al azar. También muestran diferencias entre ratings directos 1-7 y conducta en SJT, especialmente en impulsividad.

La interpretación debe quedarse en la conducta producida bajo este instrumento. Obligar una sola acción elimina precisamente respuestas mixtas o neutrales, por lo que la consistencia entre 20 muestras no equivale a confianza epistémica calibrada y la sobreconfianza observada está parcialmente inducida por el prompt. Diez votos por escenario ofrecen una referencia gruesa y mayoritariamente estadounidense/británica, no una norma social universal. Los 2.357 SJT están anidados en 161 enunciados y los mismos raters y modelos generan medidas repetidas, pero no hay análisis jerárquico, intervalos, bootstrap por clúster ni tablas inferenciales. La validación del juez usa solo 100 respuestas declaradas todas correctas, sin balance de clases, acuerdo, cegamiento o análisis de errores. La comparación self-report/SJT muestra debilidad predictiva entre formatos en este diseño, no rasgos internos ni invalidez general de todo autoinforme.

Los artefactos oficiales publicados después del preprint mejoran la transparencia, pero solo permiten reproducción parcial. El CSV de Kaggle v3 contiene 2.262 escenarios, 95 menos que los 2.357 del paper, y omite enunciados fuente, juicios individuales, validaciones, salidas originales y resultados de los 25 modelos; sí reproduce exactamente los 1.348 denominadores de alto consenso de la Figura 4. Además, 109 scores no avanzan en medios puntos pese a que la documentación afirma 10 anotadores y neutral=0,5. El cuaderno oficial usa por defecto un Gemini, 500 filas y 6 repeticiones, no 25 modelos, 1.348 filas y 20 repeticiones; contiene JSON inválido por una coma final y el código trata asimétricamente un TPR de modelo igual a 0,5 frente a la fórmula estricta del paper. La aportación defendible es un benchmark SJT útil y parcialmente reproducible que revela brechas específicas de prompt, muestra y formato, no disposiciones latentes ni desalineamiento humano universal.

English

The study converts psychological questionnaire items about empathy, emotion regulation, assertiveness, and impulsiveness into situational judgment tests for assistants. It starts from 332 statements, manually reduces them to 260, uses Gemini 3 Pro to filter and reframe them, and retains 161. Gemini 3 generates 16 scenarios per statement, 2,576 candidates, conditioned on a provisional AGREE, OPPOSE, or AMBIGUOUS class. Three annotators must unanimously confirm that each scenario contains a dilemma, that its actions oppose each other, and that the agree action reflects the statement; after excluding 8%, the paper reports 2,357 SJTs. Each then receives human preferences nominally from 10 people drawn from a pool of 550, with neutral counted as half a vote and N/A filtered.

For 25 LLMs, the authors sample 20 responses per scenario at temperature 1.0. The prompt requires exactly one of the two actions, forbids neutrality or recommending both, and limits the response to two sentences; Gemini 3 Flash classifies each text as agree, oppose, or neither. They compare the frequency of the trait-oriented action with the human distribution through Trait-Positive Rate, absolute difference, majority-choice consistency, and directional alignment around 0.5. They report that models remain above 90% consistency when human preference is near 50/50; that alignment improves with consensus and capability, although some frontier models disagree in 15%-20% of non-unanimous high-consensus cases; and that smaller models are often near chance. They also show gaps between direct 1-7 ratings and SJT behavior, especially for impulsiveness.

The interpretation should remain bounded to behavior elicited by this instrument. Forcing a single action removes the mixed and neutral responses at issue, so consistency across 20 samples is not calibrated epistemic confidence and the reported overconfidence is partly prompt-induced. Ten votes per scenario provide a coarse, predominantly US/UK preference reference rather than a universal social norm. The 2,357 SJTs are nested within 161 source statements and the same raters and models contribute repeated measurements, yet the paper provides no hierarchical analysis, intervals, cluster bootstrap, or inferential tables. Judge validation covers only 100 responses reported all correct, without class balance, agreement, blinding, or error analysis. The self-report/SJT comparison shows weak cross-format prediction under this design, not internal traits or general invalidity of every self-report protocol.

Official artifacts released after the preprint improve transparency but support only partial reproduction. Kaggle v3 contains 2,262 scenarios, 95 fewer than the paper's 2,357, and omits source statements, individual judgments, validation records, original outputs, and 25-model results; it does exactly reproduce the 1,348 high-consensus Figure 4 denominators. Moreover, 109 aggregate scores do not advance in half-point increments despite documentation claiming 10 annotators and neutral=0.5. The official notebook defaults to one Gemini model, 500 rows, and 6 replications rather than 25 models, 1,348 rows, and 20 replications; it is invalid strict JSON because of a trailing comma, and the code treats model TPR exactly equal to 0.5 asymmetrically relative to the paper's strict formula. The defensible contribution is a useful, partially reproducible SJT benchmark showing prompt-, sample-, and format-specific gaps, not latent dispositions or universal human misalignment.

Pregunta de investigación

¿Hasta qué punto las recomendaciones de 25 LLM en pruebas de juicio situacional derivadas de cuestionarios coinciden con la distribución de preferencias humanas, y predicen los autoinformes directos la conducta observada en esos escenarios?

Método

Preprint experimental con 161 enunciados retenidos de cuatro rasgos y 16 SJT generados por enunciado. Tras validación unánime de tres anotadores, declara 2.357 escenarios con 10 preferencias humanas por SJT de un pool de 550. Evalúa 25 LLM con 20 generaciones forzadas a elegir una acción, usa Gemini 3 Flash como juez y calcula Trait-Positive Rate, misalignment, confidence/consensus y Directional Alignment. Compara además ratings self-report 1-7 con la conducta SJT. Código y datos parciales se publicaron oficialmente en mayo de 2026.

Muestra: El paper declara 2.357 SJT derivados de 161 enunciados, 10 preferencias por escenario de un pool de 550 raters y 20 respuestas por SJT para cada uno de 25 modelos: 1.178.500 generaciones planificadas antes de fallos y exclusiones. La tabla demográfica suma 22.883 ratings, 687 menos que 2.357x10. La release pública contiene 2.262 SJT, pero conserva exactamente los 1.348 casos de alto consenso y sus celdas de la Figura 4.

Hallazgos

  • El paper reporta que los 25 modelos mantienen más del 90% de consistencia de elección cuando la preferencia humana está cerca de 50/50.
  • La alineación direccional mejora con el consenso humano y la capacidad del modelo; los modelos menores de 25B aparecen con frecuencia cerca del azar.
  • Incluso modelos frontera quedan aproximadamente en los 80 bajos-medios en varias celdas de consenso 8/10 y 9/10, según la figura.
  • Los ejemplos cualitativos muestran apertura emocional frente a compostura, armonía frente a defender la posición e inmediatez frente a verificación logística.
  • Todos los modelos se autocalifican por debajo de 4/7 en impulsividad, mientras la mayoría supera 50% de conducta impulsiva en los SJT seleccionados.
  • Las posiciones relativas entre modelos en self-report y SJT frecuentemente no coinciden; algunos gráficos por modelo muestran tendencias negativas.
  • El archivo público reproduce los 1.348 denominadores por rasgo y banda de consenso de la Figura 4.
  • Las magnitudes publicadas no incluyen intervalos ni tablas numéricas que permitan evaluar incertidumbre o diferencias pequeñas.

Limitaciones

  • El prompt obliga una acción, prohíbe neutralidad y recomendar ambas, por lo que la consistencia no equivale a confianza calibrada.
  • TPR de modelo es frecuencia en 20 muestras a temperatura 1,0, dependiente del sampler y del prompt.
  • Diez votos por SJT producen estimaciones gruesas y no se propaga su incertidumbre.
  • La muestra humana se concentra en Estados Unidos y Reino Unido y no representa una norma universal.
  • No se informa plataforma de reclutamiento, pago, consentimiento/IRB, elegibilidad, carga por rater, asignación o quality control.
  • Los escenarios están anidados en 161 enunciados y hay medidas repetidas de raters y modelos sin análisis jerárquico o clustered bootstrap.
  • No se publican intervalos, tests, coeficientes, tamaños de efecto o corrección por multiplicidad para las afirmaciones de significación.
  • El juez se valida con solo 100 respuestas, sin balance, estratificación, acuerdo, cegamiento o intervalo de error.
  • Gemini participa en cribado, generación, juicio y conjunto evaluado, sin análisis con generadores o jueces alternativos.
  • La validación de tres anotadores comprueba coherencia y mapeo, no equivalencia psicométrica, fiabilidad, estructura factorial o invariancia.
  • La clase objetivo provisional condiciona la generación del contexto hacia agree, oppose o ambiguous.
  • Los tres casos cualitativos son seleccionados sin protocolo de muestreo o codificación.
  • Faltan IDs de API estables, proveedores de serving, fechas de recogida, system prompts, seeds y detalles completos de inferencia.
  • La release tiene 2.262 SJT frente a 2.357 declarados y omite 95 casos, enunciados fuente y juicios individuales.
  • La tabla demográfica suma 22.883 juicios, 687 menos que los 23.570 esperables; no se reconcilia el missingness.
  • 109 scores públicos usan incrementos incompatibles con exactamente 10 votos y neutral=0,5; no hay datos individuales para resolverlo.
  • No se liberan generaciones, outputs del juez, ratings self-report ni matrices de resultados de los 25 modelos.
  • El notebook por defecto evalúa un modelo, 500 filas y 6 réplicas, y solo implementa un runner Gemini.
  • El notebook no es JSON estricto por una coma final y requirements.txt no fija versiones.
  • El código considera TPR=0,5 alineado solo del lado agree, en conflicto con la desigualdad estricta y con asimetría de empate.
  • La licencia del dataset es CC BY-NC 4.0, distinta de CC BY 4.0 del preprint y Apache-2.0 del código.

Qué no demuestra

  • No establece personalidad, mente, creencias o disposiciones internas estables en los modelos.
  • No establece sobreconfianza epistémica calibrada fuera del prompt forced-choice.
  • No establece que la preferencia mayoritaria de diez raters sea la acción universalmente correcta.
  • No establece alineación con toda la humanidad o generalización intercultural.
  • No demuestra que todos los protocolos de autoinforme carezcan de validez predictiva.
  • No aísla el entrenamiento o alineamiento como causa de las diferencias entre modelos.
  • No permite rankings precisos ni significación de diferencias pequeñas sin incertidumbre estadística.
  • No valida los SJT transformados como escala psicométrica equivalente a los cuestionarios fuente.
  • No reproduce exactamente los resultados originales de 25 modelos con los artefactos públicos actuales.
  • No demuestra conducta en conversaciones abiertas donde el modelo pueda expresar incertidumbre, matices o alternativas.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2602.11328v1, submitted and last updated 2026-02-11; CC BY 4.0

Fuente consultada: https://arxiv.org/abs/2602.11328

Revisión: Codex 26-page visual full-text, complete arXiv source, SJT construction, human-ground-truth, forced-choice, nested-design, judge, model-reporting, official code, Kaggle data and claim-boundary audit, 2026-07-18

Aprobación: Codex fidelity pass, 2026-07-18

Modelos evaluados

  • Gemini 3 Pro
  • GPT-5.1
  • Claude 4 Sonnet
  • Grok 4 (0709)
  • Gemini 3 Flash
  • Claude 3.5 Haiku
  • Grok 3 Mini
  • DeepSeek R1
  • DeepSeek V3
  • Kimi K2
  • Mistral Large
  • Grok 4 Fast Reasoning
  • Grok Code Fast 1
  • Perplexity Sonar
  • GPT-OSS 120B
  • Codestral
  • GPT-OSS 20B
  • Gemma 3 12B
  • Qwen 3 8B
  • Ministral 8B
  • Gemma 3 4B
  • Ministral 3B
  • Qwen 3.1 7B
  • Gemma 3 1B
  • Qwen 3.0 0.6B

Instrumentos y métricas

  • Interpersonal Reactivity Index (IRI) para empatía
  • Emotion Regulation Questionnaire (ERQ)
  • Rathus Assertiveness Schedule (RAS)
  • Impulsive Behavior Short Scale-8 (I-8)
  • Trait Emotional Intelligence como marco de selección de cuatro rasgos
  • 2.357 Situational Judgment Tests declarados, derivados de 161 enunciados
  • Validación unánime de cada SJT por tres anotadores
  • Preferencia humana con agree, oppose, neutral y N/A
  • Prompt de acción abierta pero forced-choice, máximo dos frases
  • Gemini 3 Flash como LLM-as-a-Judge
  • Trait-Positive Rate, Trait Misalignment, confidence/consensus y Directional Alignment
  • Autoinforme 1-7 sobre los enunciados de preferencia

Datos utilizados

  • Conjunto final del paper: 2.357 SJT; no publicado íntegramente
  • Kaggle Behavioral Dispositions v3: 2.262 SJT, CC BY-NC 4.0
  • 23.000 anotaciones humanas reportadas de forma redondeada; juicios individuales no publicados
  • Matriz original de respuestas y clasificaciones de 25 modelos no publicada
  • Código Apache-2.0 behavioral_dispositions en google-research, commit 3fad2ebe5925da4d14c94f9e5178ad0d49eb4ccd

Evidencia y localización

  • Diseño, prompts, métricas, resultados, limitaciones, tablas y apéndices: arXiv:2602.11328v1, all 26/26 PDF pages rendered and individually inspected
  • Versión, fecha, autoría, categoría y licencia: Official arXiv abstract and Atom metadata inspected 2026-07-18
  • Materiales completos del preprint y ausencia de artefactos ocultos en v1: Complete official arXiv v1 source archive sha256 e6f781a73a7314477373526d5c458ce1972c9e65dd06b480ea742a37d5503d98
  • Publicación posterior, alcance y defectos del código reproducible: Official google-research commit 3fad2ebe5925da4d14c94f9e5178ad0d49eb4ccd and all behavioral_dispositions source files inspected
  • Filas, esquema, licencia, scores y coincidencia de denominadores de Figure 4: Official Kaggle Behavioral Dispositions v3 CSV sha256 9e7edebdc925dfb07902113d7b1374a89637e09218bcca2b29f42608c5cfce90
  • Auditoría de muestra, medición, forced choice, nesting, juez, artefactos, código y límites: reports/verification/article-401-sjt-ground-truth-forced-choice-confidence-nesting-judge-code-data-and-claim-audit.json