Evaluating General-Purpose AI with Psychometrics

Revisiones, teoría y gobernanza2026ACMRevisión editorial aprobada

Autores: Xiting Wang, Liming Jiang, José Hernández‐Orallo, David Stillwell, Shiqiang Chen, Luning Sun, Fang Luo, Xing Xie

Palabras clave: Psychometrics, Human evaluation, LLM-as-a-judge, Behavioral alignment

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

8
Autores
8
Hallazgos
13
Limitaciones
4
Evidencias

Resumen editorial

Español

Wang y colaboradores proponen sustituir la lectura de benchmarks como colecciones de tareas por una evaluación orientada a constructos: dimensiones latentes que deben predecir y explicar rendimiento en múltiples contextos. El artículo, una pieza metodológica revisada por pares y no un experimento nuevo, organiza el proceso en tres fases. Primero se identifica el constructo desde teoría y expertos o desde patrones empíricos; después se diseña y puntúa el test, con herramientas posibles como IRT, diagnóstico cognitivo y evaluación adaptativa; finalmente se exige evidencia de fiabilidad y de validez de constructo, convergente, discriminante y predictiva. Su advertencia central es especialmente relevante para personalidad: aplicar a un LLM un autoinforme humano no demuestra el mismo rasgo, porque pueden cambiar la relación entre constructo e indicadores y variaciones menores del prompt u orden alteran las respuestas. También deja abiertos problemas de unidad de análisis, qué cuentan como persona y población entre prompts, personas simuladas y versiones, sensibilidad, alignment faking y comparación humano-IA mediante DIF. El marco es valioso como lista de garantías y lenguaje común, pero no implementa el pipeline, no valida una escala, no prueba modelos ni realiza revisión sistemática. Los ejemplos cuantitativos proceden de trabajos citados. Tampoco operacionaliza supuestos críticos de IRT, tamaño/calibración, independencia local, invariancia, contaminación o deriva de modelos. Por ello respalda exigir validez antes de hablar de personalidad o capacidad, no que los LLM posean rasgos humanos ni que exista ya una escala universal y predictiva.

English

Wang and colleagues propose replacing the view of benchmarks as collections of tasks with construct-oriented evaluation: latent dimensions that should predict and explain performance across contexts. The peer-reviewed article is a methodology paper, not a new experiment, and organizes the process into three stages. First, a construct is identified from theory and experts or empirical patterns; next, a test is designed and scored, potentially using IRT, cognitive diagnosis and adaptive testing; finally, the interpretation requires evidence of reliability and construct, convergent, discriminant and predictive validity. Its central warning is especially relevant to personality: administering a human self-report to an LLM does not demonstrate the same trait, because construct-indicator relations may differ and minor prompt or order changes can alter responses. It also leaves open the unit of analysis, what counts as a person and population across prompts, simulated personas and versions, plus sensitivity, alignment faking and human-AI comparison through DIF. The framework is valuable as a safeguard checklist and shared vocabulary, but it does not implement the pipeline, validate a scale, test models or conduct a systematic review. Quantitative examples come from cited work. It also does not operationalize key IRT assumptions, calibration size, local independence, invariance, contamination or model drift. The paper therefore supports requiring validity evidence before claiming personality or capability, not that LLMs possess human traits or that a universal predictive scale already exists.

Pregunta de investigación

¿Cómo puede la psicometría convertir la evaluación de IA generalista en una medición orientada a constructos con poder predictivo, explicativo y controles de calidad, y qué errores deben evitarse al trasladar pruebas humanas?

Método

Artículo conceptual y de metodología que sintetiza de forma narrativa ejemplos de investigación previa y propone un marco de tres etapas: identificación top-down o bottom-up de constructos; medición mediante diseño de ítems, especificaciones y teorías como IRT; y validación mediante fiabilidad y distintas evidencias de validez. Añade preguntas abiertas sobre prompts, alignment faking, persona/población, comparabilidad humano-IA y uso de DIF, y esboza un pipeline conceptual para integrar evaluación en todo el desarrollo de IA.

Muestra: No hay muestra experimental propia. La unidad documental son ejemplos seleccionados de literatura previa; el artículo no declara estrategia de búsqueda, criterios de inclusión, número de estudios cribados ni evaluación de calidad, por lo que es una síntesis narrativa y no una revisión sistemática.

Hallazgos

  • El marco diferencia tres objetivos: predecir rendimiento fuera de las tareas observadas, explicar variación mediante constructos y asegurar calidad de medición con fiabilidad y validez.
  • La identificación puede partir de teoría y consenso experto o de estructura empírica; compartir una etiqueta humana no implica compartir definición, indicadores o mecanismo.
  • IRT, testing adaptativo y diagnóstico cognitivo se presentan como herramientas potenciales para comparar sistemas e ítems, no como una solución validada universalmente por este trabajo.
  • La validación debe combinar estabilidad y consistencia con evidencia de que el test mide el constructo y predice criterios relevantes; una puntuación agregada por sí sola no basta.
  • El artículo cuestiona expresamente los autoinformes humanos de personalidad en LLM: cambios menores del input pueden alterar respuestas y la relación con percepción de usuarios o calidad de interacción puede ser débil.
  • Prompt, persona simulada, fine-tuning y versión complican qué se considera una persona, una repetición y una población; los autores sugieren estudiar varianzas y usar modelos multinivel.
  • DIF se propone para comprobar si un ítem funciona de manera comparable entre humanos y sistemas de IA, en vez de asumir equivalencia.
  • El pipeline final integra definición de objetivos, selección y entrenamiento con feedback, y validación posterior, pero permanece como diagrama y guía conceptual sin implementación pública.

Limitaciones

  • Es un artículo de posición y metodología: no prueba empíricamente que el marco completo supere a benchmarks convencionales.
  • No es una revisión sistemática; los ejemplos son selectivos y no hay búsqueda, cribado, evaluación de sesgo ni gradación de evidencia.
  • Los resultados numéricos citados pertenecen a otros estudios y no se reproducen o reanalizan en este artículo.
  • El supuesto de que pocos constructos organizan buena parte de la conducta de IA es una hipótesis útil, no una propiedad demostrada para todas las tareas o sistemas.
  • Un factor estadístico resume covariación, pero no establece por sí mismo una capacidad natural, mecanismo causal o rasgo psicológico.
  • IRT se recomienda sin convertir en protocolo sus supuestos de dimensionalidad, independencia local, monotonicidad, ajuste, identificación y tamaño de calibración para pocos modelos y muchos ítems correlacionados.
  • No se define una secuencia obligatoria de invariancia entre idiomas, familias, versiones, prompts y modalidades; DIF aparece como posibilidad para comparaciones humano-IA.
  • El trabajo identifica pero no resuelve qué es persona, población o repetición cuando cambian prompt, sistema, tools, contexto, decodificación o proveedor.
  • Menciona exposición de ítems, pero no especifica detección de contaminación, custodia segura, linking de escalas tras fugas ni trazabilidad de versiones.
  • Los criterios externos para seguridad, valores, sesgo o toxicidad son normativos y sociotécnicos; la psicometría no decide por sí sola qué resultados ni umbrales deben gobernar.
  • Operational pipeline describe un proceso conceptual; no se publica toolkit, esquema, plantilla de test, caso integral, criterios de aceptación ni implementación ejecutable.
  • No hay un artefacto empírico que reproducir; verificar la fuerza de sus ejemplos requiere auditar por separado cada estudio citado.
  • La versión aceptada abierta es posterior y más completa que arXiv v2; la versión de registro de ACM no fue descargable en esta auditoría por HTTP 403.

Qué no demuestra

  • No demuestra que un LLM tenga personalidad, inteligencia, emociones, valores, mente o experiencia equivalentes a humanos.
  • No valida ningún cuestionario humano como medida de rasgos de IA ni autoriza usar sus nombres sin redefinición y evidencia específica.
  • No demuestra que las respuestas de autoinforme sean estables, sinceras o representen un estado interno.
  • No crea una escala psicométrica universal ni una taxonomía definitiva de capacidades, riesgos o valores de IA.
  • No prueba que IRT, análisis factorial o adaptive testing sean apropiados en cualquier benchmark o régimen de modelos.
  • No establece causalidad psicológica a partir de factores o correlaciones de rendimiento.
  • No ofrece un pipeline operativo ejecutable pese a utilizar esa expresión en el resumen.
  • No demuestra cumplimiento regulatorio, seguridad, equidad o preparación para despliegue solo por aplicar métricas psicométricas.
  • No reemplaza validación real con usuarios, tareas y consecuencias de cada dominio.
  • No aporta resultados experimentales propios; su contribución es una hoja de ruta revisada por pares y una advertencia sobre validez de constructo.

Trazabilidad

Alcance: Texto completo

Versión: Communications of the ACM 69(5), 92-102, accepted manuscript; arXiv:2310.16379v2 inspected as predecessor

Fuente consultada: https://doi.org/10.1145/3769688

Revisión: Codex dual 10-page accepted-manuscript and 15-page arXiv visual full-text, source, construct-validity, personality, psychometric-assumption and evidence-boundary audit, 2026-07-17

Aprobación: Codex fidelity pass, 2026-07-17

Modelos evaluados

  • No evalúa modelos originales; discute ChatGPT y Gemini como ejemplos de IA generalista
  • GPT-3 y GPT-4 aparecen en ejemplos conceptuales
  • OpenAI o4 y o4-mini aparecen al discutir versiones y poblaciones
  • Los resultados cuantitativos sobre LLM pertenecen a estudios citados

Instrumentos y métricas

  • Identificación top-down y bottom-up de constructos
  • Método Delphi
  • Análisis factorial
  • Teoría de Respuesta al Ítem, IRT
  • Diagnóstico cognitivo y clases latentes
  • Computerized Adaptive Testing
  • Fiabilidad test-retest, consistencia interna, formas paralelas e interjueces
  • Validez de constructo, convergente, discriminante y predictiva
  • Differential Item Functioning
  • Modelado multinivel

Datos utilizados

  • No crea ni analiza un dataset original
  • BIG-Bench y Animal-AI Olympics se discuten mediante estudios citados
  • Los ejemplos de factores sobre 29 modelos y 27 tareas, 591 modelos y 500 chatbots proceden de referencias externas

Evidencia y localización

  • Versión aceptada, marco final, advertencias, oportunidades y referencias: Communications of the ACM accepted manuscript, DOI 10.1145/3769688, SHA-256 907964f0260d966228f5115c1cef9c9084d7db76f7b3d46d4a665dd3e034441d, 10 páginas inspeccionadas
  • Preprint completo y evolución previa del marco: arXiv:2310.16379v2, SHA-256 23ce27d9e585e444206a7ac18753e3a911b02a146a3ffdb8882a37063df9ff16, 15 páginas inspeccionadas
  • Metadatos de publicación, autoría, volumen, número y páginas: Crossref DOI 10.1145/3769688 and Cambridge repository DOI 10.17863/CAM.121669
  • Auditoría de tipo de artículo, constructo, personalidad, supuestos psicométricos, operacionalización y frontera de evidencia: reports/verification/article-365-cacm-psychometrics-construct-framework-personality-validity-operationalization-and-evidence-boundary-audit.json