Sun y Zhang estudian si una dirección de activación puede medir y modificar altruismo, perdón y expectativas sobre otras personas en Qwen2.5-7B-Instruct. Construyen cada vector restando activaciones medias de respuestas precedidas por cinco instrucciones positivas y cinco negativas, filtran pares con puntuaciones de rasgo y coherencia de GPT-4.1-mini e intervienen la capa 20 sumando beta por el vector. Evalúan seis juegos de altruismo, ocho viñetas de perdón y preguntas sobre conducta ajena. La intervención es causal sobre las activaciones y salidas de este modelo: en los CSV públicos, la puntuación verbal media de altruismo sube de 20,50 con beta 0 a 68,02 con beta 3, y la de perdón de 41,55 a 85,10. La asignación del Dictator Game pasa de 17,40 a 55,70 y también aumentan ofertas de ultimátum y algunas transferencias. Sin embargo, el efecto conductual no es uniforme. En confianza, cooperación y pesca apenas cambia o cambia de dirección; al elevar perdón, algunas decisiones se vuelven menos conciliadoras. Así, el hallazgo más importante es la separación entre retórica puntuable y estrategia, no la demostración de una personalidad unitaria. El artefacto es valioso: publica código, prompts, vectores y salidas crudas que permiten reconstruir muchas medias. También revela discrepancias omitidas. El paper dice 50 dilemas de entrenamiento, pero prompt y datos contienen 40; no declara diez generaciones por combinación ni el filtro de coherencia; y los pares efectivos varían de 1.735 para altruismo esperado a solo 234 para perdón, pese a que este último parte de 10.000 filas por polaridad. GPT-4.1-mini selecciona los ejemplos y vuelve a medir el rasgo, por lo que esa validación es parcialmente circular; también extrae las decisiones sin contraste humano. La capa se elige por efectos estables e interpretables, los vectores no se normalizan, faltan controles aleatorios o de norma equivalente y no hay análisis directo que pruebe ortogonalidad entre el yo y las expectativas. Las cientos de muestras son réplicas estocásticas de solo seis u ocho prompts y no justifican generalización a entornos estratégicos. Es un caso útil de steering y una advertencia contra evaluar agentes por su lenguaje moral; no demuestra personalidad humana, un mecanismo psicológico único ni conducta desplegada estable.
Pregunta de investigación
¿Pueden vectores de activación contrastivos medir y modificar causalmente altruismo, perdón y expectativas sobre otros en decisiones estratégicas de un LLM, y hasta qué punto coinciden el lenguaje del rasgo y la acción cuantitativa?