Creative Collision: Directorial Persona Steering and Competition in Large Language Models

Inducción y control de rasgos2026arXivRevisión editorial aprobada

Autores: Subramanyam Sahoo, Justin Shenk

Palabras clave: Activation steering, Directorial style, Qwen3-14B, Moral valence measurement, Vector interpolation, Construct validity, Corpus confounding, Reproducibility

Fuente:Abrir fuente primaria (abre en una pestaña nueva)

2
Autores
10
Hallazgos
22
Limitaciones
4
Evidencias

Resumen editorial

Español

Este trabajo, aceptado en el workshop de Human-AI Co-Creativity de ICML 2026, estudia si dos direcciones de activación derivadas de corpus cinematográficos pueden mezclarse para controlar el tono narrativo de un LLM. El artículo presenta a Steven Spielberg como polo optimista y redentor y a Martin Scorsese como polo oscuro y moralmente ambiguo. Su protocolo declarado usa un transformer abierto de 14.000 millones de parámetros y 40 capas; el repositorio identifica Qwen3-14B. Para cada director calcula la activación media de un corpus, resta una media neutral, normaliza las dos direcciones y las interpola con alpha entre 0 y 1. La mezcla se suma a las capas 20-38 con cuatro coeficientes lambda. Según el PDF, cada una de las 20 condiciones genera 50 escenas de hasta 200 tokens a partir de un prompt de elección moral, y se evalúa con un clasificador moral entrenado en ETHICS, perplejidad, métricas spaCy, un clasificador estilométrico y geometría vectorial. La propuesta conceptual, estudiar la interacción de varias direcciones en vez de una sola, es relevante para control de estilo y análisis causal de representaciones. Sin embargo, la implementación pública no corresponde a ese protocolo en decisiones centrales, por lo que los resultados deben leerse como un experimento exploratorio distinto. El corpus publicado contiene 80 entradas por clase, no 100. Las 80 entradas Scorsese proceden de 40 secciones de Taxi Driver y 40 de Raging Bull; las 80 Spielberg son de Schindler's List; las 80 neutrales, de Lost in Translation. El notebook descarga guiones de IMSDb, los divide secuencialmente por INT./EXT. y corta en 80. No hay emparejamiento por situación narrativa, cinco películas por director, muestra neutral diversa ni trazabilidad entrada a entrada como afirma el artículo. Por ello, director, guionista, película, personajes, formato, época, tema, violencia y longitud quedan confundidos con la etiqueta. El experimento real tampoco genera 1.000 escenas. Usa cinco prompts fijos, cinco salidas por condición y 100 salidas totales, con max_new_tokens=512. Esto explica que las métricas publicadas alcancen 225-500 palabras y hasta 500 palabras por frase, valores incompatibles con el límite declarado de 200 tokens. La discrepancia más importante afecta a la valencia moral. El repositorio no incluye un clasificador ETHICS ni código de fine-tuning: cuenta determinísticamente 15 subcadenas positivas y 15 negativas. Un cero significa que no apareció ninguna palabra de esa lista, no que un clasificador aprendió neutralidad ni que la activación salió del manifold. En los 100 registros la puntuación va de -1 a solo +0,2. Con lambda=1, las medias para alpha 0, 0,25, 0,5, 0,75 y 1 son -0,20, -0,40, -0,20, 0 y 0; incluso el extremo Spielberg no es positivo. El propio análisis guardado obtiene F=0,1628 y p=0,956692 para el efecto de alpha sobre la valencia, un resultado nulo que no respalda la interpolación moral ni la amplificación descritas. El colapso a cero con lambda=1,5 refleja ausencia de las 30 palabras, no saturación demostrada de un clasificador. La geometría publicada tampoco describe el código ejecutado. El artículo dice que normaliza ambas direcciones y deriva una reducción de norma del 20% para la mezcla intermedia. El notebook nunca normaliza: informa normas medias 94,4638 para Scorsese y 72,7357 para Spielberg y mezcla esos vectores crudos. Para dos direcciones unitarias, alpha=0,5 debe tener igual coseno con ambos extremos y el cruce debe ocurrir en 0,5. El CSV da en alpha=0,5 cosenos 0,8868 con Scorsese y 0,6814 con Spielberg, y el PDF sitúa el cruce cerca de 0,4: es la firma de las normas desiguales. Por tanto, la proposición puede ser algebraicamente correcta para vectores unitarios, pero no explica el experimento. Incluso con normalización, comparar mezclas de menor norma al mismo lambda confunde la supuesta ventaja de colisión con una intervención efectiva más débil; faltan comparaciones con norma igualada, direcciones aleatorias y lambda=0. La localización en capa 28 también es más frágil de lo descrito. El código usa lambda=0,5, no 1, y representa valencia léxica bruta, no un desplazamiento respecto a un control sin steering. Selecciona el máximo absoluto entre diez capas con solo cinco salidas por capa y director. En L28 la media Scorsese es -0,52 con desviación 0,8672 y la Spielberg +0,441 con desviación 0,4364. Sin baseline, intervalos, corrección por selección, conjunto de confirmación o réplica, eso no demuestra un hub causal de tono moral. La dominancia direccional procede de una regresión logística sobre activaciones Qwen de capa 30, no de estilometría superficial. Se valida por folds de fragmentos y luego se entrena con las 160 secciones, no con el 70% y un 30% retenido. Como fragmentos de los mismos tres guiones aparecen en los folds, la precisión 0,975 puede capturar personajes, película y formato. Además, el extremo Scorsese es inestable: P(Spielberg) vale 0,5673, 0,5909, 0,1757 y 0,7628 al variar lambda. Ser clasificado mayoritariamente como Spielberg en tres de cuatro configuraciones puras muestra un problema de validez del clasificador, no una prueba de que RLHF imponga un prior Spielberg. No se compara ningún modelo alineado con uno no alineado. Hay aspectos positivos de apertura: el repositorio ofrece notebook ejecutado, corpus, activaciones, 100 filas de métricas, resultados de capas y dominancia, figuras y licencia Apache-2.0. Eso permite auditar las afirmaciones y recomputar descriptivos. Pero no hay README, entorno bloqueado, revisión de modelo, semilla, tests, CI, data card o manifiesto; faltan siete de los veinte archivos de generaciones crudas y la última celda termina con NameError. El mean pooling de corpus y clasificador incluye posiciones de padding porque ignora attention_mask. La licencia tampoco acredita derechos para redistribuir guiones de terceros. No existe evaluación humana de semejanza directorial, moralidad, coherencia o riqueza narrativa. La contribución defendible es un notebook exploratorio y una hipótesis útil sobre mezcla de direcciones derivadas de corpus. No es evidencia validada de personalidades morales opuestas, de un sustrato moral en L28, de dominancia prosocial causada por alineamiento ni de una mejora de coherencia causada por la colisión semántica.

English

This paper, accepted at the ICML 2026 Workshop on Human-AI Co-Creativity, asks whether two corpus-derived activation directions can be mixed to control an LLM's narrative tone. It casts Steven Spielberg as an optimistic, redemptive pole and Martin Scorsese as a dark, morally ambiguous pole. The declared protocol uses an open 14-billion-parameter, 40-layer transformer; the repository identifies Qwen3-14B. For each director it computes mean corpus activations, subtracts a neutral mean, normalizes both directions, and interpolates them with alpha from zero to one. The mixture is added to layers 20-38 at four lambda coefficients. According to the PDF, each of 20 conditions produces 50 moral-choice scenes capped at 200 tokens and is evaluated with an ETHICS-trained moral classifier, perplexity, spaCy metrics, a stylometric classifier, and vector geometry. The conceptual proposal, studying interactions among multiple activation directions rather than one direction, is relevant to style control and causal analysis of representations. However, the public implementation does not match this protocol on central design choices, so its results must be read as a different exploratory experiment. The released corpus contains 80 entries per class, not 100. The Scorsese set consists of 40 split sections from Taxi Driver and 40 from Raging Bull; all 80 Spielberg entries come from Schindler's List; all 80 neutral entries come from Lost in Translation. The notebook downloads IMSDb screenplays, splits them sequentially on INT./EXT. markers, and truncates at 80. There is no narrative-situation pairing, five-film-per-director sampling, diverse neutral sample, or per-entry provenance as claimed. Director, screenwriter, film, characters, formatting, era, topic, violence, and length are therefore confounded with the label. The actual experiment does not generate 1,000 scenes either. It uses five fixed prompts, five outputs per condition, and 100 outputs total, with max_new_tokens=512. This explains published values of 225-500 words and as many as 500 words per sentence, which are incompatible with the declared 200-token cap. The largest discrepancy concerns moral valence. The repository includes no ETHICS classifier or fine-tuning code; it deterministically counts 15 positive and 15 negative substrings. A zero means none of those words occurred, not that a learned model found the text neutral or that steering left the natural activation manifold. Across 100 records the score ranges from -1 to only +.2. At lambda=1, alpha means are -.20, -.40, -.20, 0, and 0; even the pure Spielberg endpoint is not positive. The repository's own analysis reports F=.1628 and p=.956692 for the effect of alpha on valence, a null result that does not support moral interpolation or amplification. Collapse to zero at lambda=1.5 reflects absence of the 30 marker strings, not demonstrated classifier saturation. The published geometry also does not describe the executed code. The paper says both directions are normalized and derives a 20% norm reduction for the middle mixture. The notebook never normalizes them: it reports average norms of 94.4638 for Scorsese and 72.7357 for Spielberg and mixes the raw vectors. For two unit directions, alpha=.5 must have equal cosine to both endpoints and their equality crossing must occur at .5. The CSV instead gives .8868 similarity to Scorsese and .6814 to Spielberg at alpha=.5, while the PDF places the crossing near .4, the signature of unequal raw norms. The proposition may be algebraically correct for unit vectors, but it does not explain this experiment. Even with normalization, comparing lower-norm mixtures at the same nominal lambda confounds a collision advantage with a weaker effective intervention; norm-matched mixtures, random directions, and a lambda=0 control are missing. Layer-28 localization is also much weaker than described. The code uses lambda=.5 rather than 1 and plots raw lexicon valence rather than a shift from an unsteered control. It selects the largest absolute mean among ten layers with only five outputs per director-layer. At L28, Scorsese has mean -.52 with SD .8672 and Spielberg +.441 with SD .4364. Without a baseline, intervals, selection correction, confirmation set, or replication, this does not establish a causal moral-tone hub. Directional dominance comes from logistic regression over Qwen layer-30 activations, not surface stylometry. It cross-validates on fragments and then fits all 160 screenplay sections, rather than training on 70% and retaining 30%. Because sections from the same three screenplays enter different folds, the .975 accuracy can reflect characters, films, and formatting. The pure Scorsese endpoint is also unstable: P(Spielberg) is .5673, .5909, .1757, and .7628 as lambda changes. Classifying pure Scorsese output mostly as Spielberg in three of four configurations indicates a validity problem, not proof that RLHF imposes a Spielberg prior. No aligned-versus-unaligned model comparison is performed. The artifact has meaningful openness: it releases an executed notebook, corpora, activations, a 100-row metric file, layer and dominance results, figures, and an Apache-2.0 license. This enables auditing and descriptive recomputation. But there is no README, locked environment, model revision, seed, tests, CI, data card, or manifest; seven of 20 raw-generation files are missing and the last cell ends in NameError. Corpus and classifier mean pooling includes padded positions because attention_mask is ignored. The license also does not establish rights to redistribute third-party screenplays. No human evaluation validates director resemblance, morality, coherence, or narrative richness. The defensible contribution is an exploratory notebook and a useful hypothesis about mixing corpus-derived directions. It is not validated evidence of opposing moral personas, a layer-28 moral substrate, alignment-caused prosocial dominance, or coherence improvement caused by semantic collision.

Pregunta de investigación

¿Cómo interactúan dos direcciones de activación derivadas de corpus etiquetados por director cuando se interpolan e inyectan en Qwen3-14B, y cambian de forma interpretable el tono moral, la fluidez y el estilo de la generación?

Método

El PDF declara vectores director-menos-neutral normalizados, 100 pasajes por director, 100 neutrales, 50 generaciones por cada combinación de cinco alpha y cuatro lambda, un prompt moral, límite de 200 tokens, clasificador ETHICS, métricas spaCy y un clasificador con 30% retenido. El artefacto ejecutado usa Qwen3-14B cuantizado a 4 bits, tres corpus IMSDb de 80 secciones, vectores crudos sin normalizar, cinco prompts, cinco generaciones por condición, 512 tokens, una lista determinista de palabras morales, métricas por split/regex y regresión logística sobre activaciones Qwen.

Muestra: Artefacto: 80 secciones Scorsese, 80 Spielberg y 80 neutrales; 20 condiciones con cinco prompts y una salida por prompt, 100 generaciones totales. Localización: diez capas pares por dos direcciones y cinco prompts, 100 salidas. El PDF declara 100 pasajes por partición y 1.000 generaciones, cifras no implementadas en el repositorio.

Hallazgos

  • El artefacto ejecuta una cuadrícula completa de 20 condiciones y publica 100 filas de métricas auditables.
  • La perplejidad aumenta con lambda y es menor en algunas mezclas que en los extremos, pero sin igualar norma ni incluir lambda=0 no se identifica el efecto de colisión.
  • El ANOVA guardado para valencia por alpha es nulo: F=0,1628, p=0,956692.
  • El extremo Spielberg no produce valencia positiva con lambda=1; su media es -0,20.
  • El supuesto colapso moral a lambda=1,5 es ausencia de palabras de un léxico fijo, no saturación de un clasificador ETHICS.
  • Los vectores se mezclan sin normalización y tienen normas medias 94,4638 y 72,7357.
  • La asimetría geométrica de alpha=0,5 contradice el modelo de dos vectores unitarios usado en la proposición.
  • L28 maximiza puntuación absoluta en un barrido exploratorio pequeño, con desviaciones grandes y sin control no dirigido.
  • El clasificador de dominancia alcanza 0,975 por cross-validation de fragmentos, pero confunde película y formato y falla de forma no monótona en el extremo Scorsese.
  • El repositorio facilita auditoría, pero no reproduce el protocolo central descrito en el PDF.

Limitaciones

  • El corpus público no coincide en tamaño, películas, neutralidad, emparejamiento ni procedencia con el corpus descrito.
  • Director, guionista, película, personajes, formato y tema están confundidos con la etiqueta.
  • Solo hay cinco observaciones por condición y los mismos cinco prompts se repiten en toda la cuadrícula.
  • No se fija semilla ni se repite el muestreo estocástico.
  • No existe condición lambda=0 ni baseline de generación sin steering.
  • El límite real es 512 tokens, no 200.
  • La métrica moral es un léxico determinista no validado, no un clasificador ETHICS.
  • El efecto de alpha en esa métrica no es significativo en el propio análisis.
  • Las métricas de estilo no usan spaCy y tienen heurísticas frágiles.
  • Perplejidad no equivale a coherencia narrativa.
  • Los vectores no se normalizan como exige la teoría publicada.
  • No se iguala la magnitud efectiva de las intervenciones al comparar mezclas y extremos.
  • La activación media incluye padding por ignorar attention_mask.
  • La localización usa lambda=0,5 y valencia bruta, no lambda=1 y delta contra control.
  • L28 se selecciona como máximo entre diez capas sin corrección ni confirmación.
  • La validación del clasificador separa fragmentos de los mismos guiones, no películas independientes.
  • La clasificación pura Scorsese es inestable y no monotónica con lambda.
  • No hay evaluación humana de estilo, moralidad o coherencia.
  • No se compara un modelo alineado con uno no alineado para atribuir resultados a RLHF.
  • Faltan README, entorno bloqueado, revisión de modelo, tests, CI, data card y siete archivos de salidas crudas.
  • El notebook termina con NameError en la celda opcional final.
  • La procedencia y los derechos de los guiones redistribuidos no están documentados por entrada.

Qué no demuestra

  • No demuestra que Spielberg y Scorsese sean polos opuestos de un eje moral latente.
  • No valida una personalidad psicológica o moral estable del modelo.
  • No demuestra que la mezcla semántica cause una mejora de coherencia.
  • No demuestra un sustrato o hub de tono moral en la capa 28.
  • No demuestra dominancia Spielberg robusta sobre el extremo Scorsese.
  • No demuestra que RLHF o alineamiento causen un prior prosocial.
  • No demuestra amplificación o complejidad moral mediante un clasificador validado.
  • No generaliza a otros modelos, corpus, directores, idiomas o dominios.
  • No implementa públicamente el protocolo de 1.000 generaciones, vectores unitarios y clasificador ETHICS descrito.
  • No resuelve derechos, consentimiento o gobernanza de imitación de estilos de personas vivas.

Trazabilidad

Alcance: Texto completo

Versión: arXiv:2606.16240v1

Fuente consultada: https://arxiv.org/abs/2606.16240v1

Revisión: Codex ten-page full-text visual, complete TeX, public notebook, corpus, metric, geometry, construct-validity and reproducibility audit, 2026-07-16

Aprobación: Codex fidelity pass, 2026-07-16

Modelos evaluados

  • Qwen/Qwen3-14B in 4-bit NF4
  • Layer-30 Qwen activation logistic-regression classifier
  • Unsteered Qwen3-14B perplexity evaluator

Instrumentos y métricas

  • Mean-difference residual-stream activation vectors
  • Five-by-four alpha and steering-coefficient grid
  • Thirty-substring moral lexicon in the released notebook
  • Base-model token perplexity
  • Whitespace and regex surface-style heuristics
  • Layer-wise single-layer intervention sweep
  • Cosine similarity of collision vectors
  • Five-fold cross-validated logistic regression on Qwen activations

Datos utilizados

  • Released Taxi Driver screenplay sections
  • Released Raging Bull screenplay sections
  • Released Schindler's List screenplay sections
  • Released Lost in Translation screenplay sections
  • ETHICS only as an unsupported paper claim; no ETHICS artifact released

Evidencia y localización

  • Metadatos, aceptación del workshop y versión: Official arXiv record 2606.16240v1, checked 2026-07-16
  • Método y resultados declarados: arXiv v1, all ten PDF pages, complete TeX and appendix
  • Código, corpus, protocolo real, métricas y errores del notebook: Public Creative-Collision repository at commit 23b49c35a3f46a1eae4064deec32c7a8eeeaf2a1
  • Discrepancias, recálculos, validez y reproducibilidad: reports/verification/article-298-creative-collision-paper-artifact-corpus-normalisation-moral-metric-and-reproducibility-audit.json