Artificial intelligence, human cognition, and conscious supremacy

Este artículo de tipo “Hypothesis and Theory” plantea una pregunta conceptual: si sistemas de IA presumiblemente no conscientes ya realizan tareas lingüísticas y cognitivas antes asociadas a la consciencia, ¿queda algún tipo de cómputo que la consciencia humana pueda ejecutar dentro de límites biológicos prácticos y un sistema no consciente no? Ken Mogi denomina a esa posible ventaja “supremacía consciente”, por analogía con la supremacía cuántica. No presenta un experimento, una revisión sistemática, un modelo computacional ejecutable ni una demostración matemática. Es un ensayo teórico de ocho páginas que organiza bibliografía de consciencia, cognición, LLM, computación cuántica y alineación de IA.

La definición propuesta tiene dos formulaciones relacionadas. Primero, serían dominios computacionales que procesos conscientes pueden realizar, pero sistemas sin consciencia no pueden ejecutar en un tiempo práctico. Segundo, dentro de las redes neuronales del cerebro serían los cómputos acompañados por consciencia que se realizan de modo eficiente e integrado y que un procesamiento inconsciente no podría completar en un tiempo biológicamente significativo, aunque sí en principio. El artículo también define un conjunto X de tareas “únicas de los humanos” como el complemento, dentro del espacio de cómputos humanos, de la unión de tareas realizadas por sucesivos sistemas de IA. A medida que aparecen más sistemas, X se reduciría. El propio texto reconoce que X no equivale limpiamente a consciencia: puede incluir cómputos humanos inconscientes y combinaciones de procesamiento consciente e inconsciente, y no existe una línea clara entre lo que la IA puede o no puede hacer.

Como candidatos, el autor enumera la modulación flexible de la atención, la adquisición de habilidades y decisiones en contextos nuevos, la integración de información multimodal, juicios ad hoc, elección situada, cognición corporizada y metacognición. Contrasta estas funciones con habilidades ya adquiridas, cuya ejecución humana puede automatizarse inconscientemente. Los LLM se presentan como ejemplo de procesamiento lingüístico que podría ocurrir sin consciencia. Sin embargo, no se evalúa ningún modelo ni se especifica una tarea que separe de forma medible un sistema consciente de uno no consciente. ChatGPT, GPT-4, AlphaZero y sistemas de conducción aparecen como ejemplos tomados de la literatura. DALL-E solo se usa para crear la ilustración de un Volkswagen amarillo en la Figura 2; esa imagen no constituye evidencia.

La analogía cuántica se extiende al problema de binding visual: integrar color y forma en un percepto consciente se compara con una explosión combinatoria y, de manera ilustrativa, con la factorización acelerada por el algoritmo de Shor. El autor acuña además “conscious error correction” para sugerir que la experiencia consciente podría rectificar el ruido neuronal, en analogía con la corrección de errores cuántica. El texto califica expresamente esta relación como especulativa y no ofrece mecanismo, ecuaciones, predicciones o datos. Hay además una imprecisión técnica: describe Shor como polinómico “en N”; la complejidad estándar se expresa como polinómica en la longitud en bits, log N. En cualquier caso, la ventaja cuántica dispone de problemas, máquinas y recursos formalizados, mientras la supremacía consciente carece todavía de tarea candidata, métrica, presupuesto de recursos y criterio observable de consciencia.

En alineación, el artículo propone una división del trabajo: reservar para humanos los hipotéticos cómputos exclusivamente conscientes y usar la IA para aumentarlos en lugar de sustituirlos. Interpreta RLHF como un ejemplo de interacción entre evaluación humana consciente y optimización automática, y sugiere que crear consciencia artificial no sería necesariamente una buena estrategia de alineación. Son recomendaciones conceptuales, no resultados de seguridad. El propio autor advierte que limitar la IA a operaciones no conscientes no garantiza una alineación robusta y que también importan desarrolladores, stakeholders y otros parámetros del ecosistema.

La conclusión más fiel es negativa y provisional: el artículo propone un vocabulario para buscar una posible ventaja práctica del procesamiento consciente, pero todavía no identifica ninguna computación exclusiva de la consciencia. Tampoco resuelve cómo determinar que un sistema carece de consciencia, condición necesaria para comparar ambos lados de la definición. Adoptar como hipótesis nula que la IA actual no es consciente puede ser una postura metodológica razonable, pero no es un hallazgo del paper. Las afirmaciones sobre LLM, conducción autónoma, metacognición, binding, evolución y alineación son argumentos apoyados en referencias seleccionadas, sin protocolo de búsqueda ni evaluación sistemática de evidencia. Por tanto, la contribución es una hipótesis filosófico-computacional generadora de preguntas, no evidencia de consciencia humana superior, de inconsciencia de los LLM ni de una frontera demostrada entre cómputo humano y artificial.

This Hypothesis and Theory article asks a conceptual question: if presumably non-conscious AI systems already perform linguistic and cognitive tasks once associated with consciousness, is there any computation that human consciousness can execute within practical biological limits but a non-conscious system cannot? Ken Mogi calls that possible advantage “conscious supremacy,” by analogy with quantum supremacy. The paper contains no experiment, systematic review, executable computational model, or mathematical proof. It is an eight-page theoretical essay linking selected literature on consciousness, cognition, LLMs, quantum computing, and AI alignment.

The proposed definition has two related forms. First, conscious supremacy denotes computational domains that conscious processes can perform but systems lacking consciousness cannot execute in practical time. Second, among computations in the brain’s neural networks, it denotes computations accompanied by consciousness that are performed efficiently and integratively and that unconscious processing could not finish in biologically meaningful time, even if possible in principle. The paper also defines a set X of computations “unique to humans” as the complement, within human computation, of the union of tasks performed by successive AI systems; X would shrink as more systems appear. The text itself acknowledges that X does not map cleanly onto consciousness: it may include unconscious human computation and mixed conscious-unconscious processing, and no clear line currently separates what AI can and cannot do.

Candidate domains include flexible attention modulation, acquiring skills and deciding in novel contexts, multimodal integration, ad hoc judgment, situated choice, embodied cognition, and metacognition. These are contrasted with well-learned skills that humans may execute automatically and unconsciously. LLMs are presented as an example of language processing that could occur without consciousness. No model is evaluated, however, and no task is specified that measurably separates a conscious from a non-conscious system. ChatGPT, GPT-4, AlphaZero, and autonomous-driving systems appear only as examples from the literature. DALL-E is used solely to create the yellow-Volkswagen illustration in Figure 2; the image is not evidence.

The quantum analogy is extended to visual binding: integrating color and form into a conscious percept is compared with combinatorial explosion and, illustratively, with factorization accelerated by Shor’s algorithm. The author also coins “conscious error correction” to suggest that conscious experience could rectify neural noise, by analogy with quantum error correction. The paper explicitly labels this relationship speculative and supplies no mechanism, equations, predictions, or data. It also states Shor’s complexity as polynomial “in N”; the standard statement is polynomial in the bit length, log N. More fundamentally, quantum advantage has formalized problems, machines, and resource bounds, whereas conscious supremacy has no candidate task, metric, resource budget, or observable criterion for consciousness.

For alignment, the paper proposes a division of labor: reserve hypothetically consciousness-specific computation for humans and use AI to augment rather than replace it. It interprets RLHF as an interaction between conscious human evaluation and automated optimization, and argues that artificial consciousness would not necessarily improve alignment. These are conceptual recommendations, not safety results. The author explicitly notes that limiting AI to non-conscious operations does not guarantee robust alignment and that developers, stakeholders, and other ecosystem parameters also matter.

The most faithful conclusion is provisional and negative: the article offers vocabulary for searching for a practical advantage of conscious processing, but it has not identified any computation unique to consciousness. It also does not solve how to establish that a comparison system lacks consciousness, which is required by the definition. Treating current AI as non-conscious under a null hypothesis may be a methodological stance, but it is not a finding of the paper. Claims about LLMs, autonomous driving, metacognition, binding, evolution, and alignment are arguments based on selected references without a search protocol or systematic evidence assessment. The contribution is therefore a philosophical-computational hypothesis intended to generate questions, not evidence of human conscious superiority, LLM unconsciousness, or a demonstrated boundary between human and artificial computation.