05/08 HomeHome
Cápsula · cincoCapsule · five
V

Información y entropíaInformation and entropy

Shannon, Boltzmann y el Φ de Tononi: el orden tiene fórmula. Shannon, Boltzmann and Tononi's Φ: order has a formula.

deslizascroll
05/08 HomeHome
La idea · su origenThe idea · its origin

El orden, el desorden y la integración son magnitudes — se miden en bits. Order, disorder and integration are magnitudes — measurable in bits.

Boltzmann graba una fórmula en su tumbaBoltzmann engraves a formula on his tomb

En 1872, Ludwig Boltzmann formaliza la entropía termodinámica: S = k·log W, donde W es el número de microestados compatibles con un macroestado. Es la primera vez que el desorden tiene un número. El epitafio en su lápida en Viena lleva la fórmula. Boltzmann murió creyendo que su trabajo no sería entendido. In 1872, Ludwig Boltzmann formalizes thermodynamic entropy: S = k·log W, where W is the number of microstates compatible with a macrostate. It is the first time disorder has a number. The epitaph on his tomb in Vienna bears the formula. Boltzmann died believing his work would not be understood.

En 1948, Claude Shannon publica A Mathematical Theory of Communication. Define la información con una fórmula casi idéntica a la de Boltzmann. Funda la era digital. En 2004, Giulio Tononi propone Φ (phi) — la información integrada de un sistema — como medida cuantitativa de la consciencia. Tres saltos en 130 años. Lo más subjetivo entra en el régimen del número. In 1948, Claude Shannon publishes A Mathematical Theory of Communication. He defines information with a formula almost identical to Boltzmann's. He founds the digital era. In 2004, Giulio Tononi proposes Φ (phi) — a system's integrated information — as a quantitative measure of consciousness. Three jumps in 130 years. The most subjective enters the regime of number.

05/08 HomeHome
Despliegue · tres facetasUnfolding · three facets

Entropía termodinámicaThermodynamic entropy

Mezclas leche y café: irreversible. La entropía del universo siempre crece (2ª ley). Es la flecha del tiempo escrita en lenguaje estadístico: hay muchísimos más estados desordenados que ordenados, así que la probabilidad empuja siempre hacia el desorden. La vida, dice Prigogine, es una excepción local — pero aumenta la entropía del entorno para compensar. You mix milk and coffee: irreversible. The entropy of the universe always grows (2nd law). It is the arrow of time written in statistical language: there are vastly more disordered states than ordered ones, so probability always pushes toward disorder. Life, says Prigogine, is a local exception — but it increases the entropy of its surroundings to compensate.

S = −k Σ pᵢ log pᵢ
Entropía · Boltzmann–Gibbs · idéntica forma a Shannon

Información de ShannonShannon's information

Si te aviso «hoy llovió» en Bolivia en julio, te doy poca información (lo esperabas). Si te aviso «hoy nevó en La Paz», te doy mucha. Shannon formaliza: la información es la sorpresa, el inverso logarítmico de la probabilidad. Un mensaje informa más cuanto menos esperado era. El bit nace ahí: la cantidad de información de un sí/no con 50/50 de probabilidad. If I tell you "it rained today" in Bolivia in July, I give you little information (you expected it). If I tell you "it snowed in La Paz today", I give you a lot. Shannon formalizes: information is surprise, the logarithmic inverse of probability. A message informs more the less expected it was. The bit is born here: the information of a yes/no with 50/50 odds.

Información integrada · ΦIntegrated information · Φ

Tononi observa: un sistema consciente integra información — una experiencia visual es un todo, no la suma de píxeles. Define Φ como la cantidad de información que un sistema posee en tanto un todo unificado, más allá de lo que poseen sus partes. Un televisor tiene Φ ≈ 0; un cerebro humano, Φ alto. Audaz, controvertido, matemáticamente preciso. Es el principio sistémico de Morin elevado a magnitud. Tononi observes: a conscious system integrates information — a visual experience is a whole, not the sum of pixels. He defines Φ as the information a system possesses as a unified whole, beyond what its parts hold. A television set has Φ ≈ 0; a human brain, high Φ. Bold, controversial, mathematically precise. It is Morin's systemic principle raised to magnitude.

05/08 HomeHome
Glifo · Φ y la flecha del tiempoGlyph · Φ and the arrow of time

A la izquierda, ordenado: pocos microestados, baja entropía. A la derecha, desorden: muchos, alta entropía. En el medio — vivo — el sistema integra: la información se vuelve Φ. On the left, ordered: few microstates, low entropy. On the right, disorder: many, high entropy. In the middle — alive — the system integrates: information becomes Φ.

05/08 HomeHome
Tres escalas, una ideaThree scales, one idea

Del bit a la conscienciaFrom bit to consciousness

Cotidiano — comprimir un archivoEveryday — compressing a file

¿Por qué un .zip es más chico que el original? Porque el archivo tiene redundancia: patrones que se repiten. Shannon demostró que la compresión óptima corresponde a la entropía del mensaje: un texto en castellano se comprime al 50%, un archivo aleatorio no se comprime nada. La entropía mide el «verdadero contenido» de información. Why is a .zip smaller than the original? Because the file has redundancy: repeating patterns. Shannon proved that optimal compression equals the message's entropy: a Spanish text compresses to 50%, a random file doesn't compress at all. Entropy measures the "true content" of information.

Biológico — el ADNBiological — DNA

Tu genoma tiene 3.000 millones de bases, pero apenas 1 GB de información: hay mucha redundancia, mucha repetición, mucho ruido. Aun así, codifica un organismo. La biología es procesamiento masivo de información — la propia Crick llamó al ADN «la fórmula química de la vida», y hoy es directamente código. Your genome has 3 billion bases, yet barely 1 GB of information: lots of redundancy, repetition, noise. Even so, it codes an organism. Biology is massive information processing — Crick himself called DNA "the chemical formula of life", and today it is literally code.

Sistémico — anestesiaSystemic — anesthesia

Cuando te duermen con anestesia, las áreas cerebrales siguen activas pero dejan de comunicarse entre sí. El Φ colapsa. La consciencia desaparece. Cuando despiertas, la comunicación se restaura, Φ sube, regresas. Tononi y Massimini diseñaron un test clínico (perturbational complexity index) que mide esto: ya se usa en pacientes en estado vegetativo. La fórmula sirve. When you go under anesthesia, brain areas stay active but stop communicating with each other. Φ collapses. Consciousness vanishes. When you wake up, communication returns, Φ rises, you come back. Tononi and Massimini designed a clinical test (perturbational complexity index) that measures this: already used in vegetative-state patients. The formula works.

05/08 HomeHome
No confundirDo not confuse

Qué no es informaciónWhat information is not

05/08 HomeHome
Tononi lo dice asíTononi puts it this way
La consciencia es información integrada: cuanto un sistema, considerado como un todo, posee más allá de lo que sus partes poseen. Consciousness is integrated information: what a system, taken as a whole, possesses beyond what its parts possess.
Giulio Tononi · An Information Integration Theory of Consciousness · BMC Neuroscience · 2004

Esta es la definición moriniana del principio sistémico — «el todo es más que la suma de las partes» — extendida a una magnitud medible. Morin ya trabajaba esta zona: en El Método I (pp. 335-355) dedica páginas técnicas a la coincidencia formal entre Shannon (H = K·log P) y Boltzmann-Gibbs, discute con Brillouin (cit. 19×), con Atlan (28×), con Couffignal. Tononi no llega a un territorio ajeno — lo extiende con un objeto matemático nuevo, Φ, hacia la cuestión de la consciencia que Morin reserva al sujeto cognoscente. Y el cuidado vale para ambos: si reduces Φ a su valor numérico, te quedas sin lo cualitativo que el propio Tononi defiende. La fórmula no es la consciencia — sólo la mide. This is the Morinian definition of the systemic principle — "the whole is more than the sum of parts" — extended into a measurable magnitude. Morin was already working this zone: in The Method I (pp. 335-355) he spends technical pages on the formal coincidence between Shannon (H = K·log P) and Boltzmann-Gibbs, debating Brillouin (cit. 19×), Atlan (28×), Couffignal. Tononi doesn't arrive in foreign territory — he extends it with a new mathematical object, Φ, toward the question of consciousness that Morin reserves for the knowing subject. And caution applies to both: if you reduce Φ to its numerical value, you lose the qualitative that Tononi himself defends. The formula is not consciousness — it only measures it.

05/08 HomeHome
Tensiones y usosTensions and uses

Donde el bit incomodaWhere the bit unsettles

¿Quién decide la medida de probabilidad? Shannon necesita un espacio probabilístico previo. Cambiarlo cambia los bits. La objetividad de la información depende de una elección de marco que ya es subjetiva. Morin entraría aquí: el observador está, otra vez, en la base. Who decides the probability measure? Shannon requires a prior probability space. Changing it changes the bits. The objectivity of information depends on a frame choice that is already subjective. Morin would step in here: the observer is, again, at the bottom.

¿Se puede cuantificar el sentido? IIT da un paso al frente: dice que sí, mediante Φ. Otros (Searle, Chalmers, los enactivistas) lo niegan: el sentido es vivido, no medido. Esta es una de las polémicas vivas del pensamiento contemporáneo. La cápsula VIII recoge sus extensiones más radicales. Can sense be quantified? IIT steps forward: yes, via Φ. Others (Searle, Chalmers, the enactivists) deny it: sense is lived, not measured. This is one of the live polemics of contemporary thought. Capsule VIII picks up its most radical extensions.

Dónde se usa hoyWhere it's used today

En telecomunicaciones (todo lo digital), compresión y criptografía, genómica (entropía de secuencias), ecología (índices de biodiversidad de Shannon), aprendizaje automático (entropía cruzada como función de pérdida), neurociencia clínica (PCI para diagnóstico de estados de consciencia), economía (índices de desigualdad), y en la física de agujeros negros (Bekenstein-Hawking). In telecommunications (everything digital), compression and cryptography, genomics (sequence entropy), ecology (Shannon biodiversity indices), machine learning (cross-entropy as loss function), clinical neuroscience (PCI for consciousness diagnosis), economics (inequality indices), and black-hole physics (Bekenstein-Hawking).

05/08 HomeHome
Para ti · cinco preguntasFor you · five questions
?

¿Qué integras hoy que tus partes solas no podrían? What do you integrate today that your parts alone could not?

05/08 HomeHome
Para seguir · continúaTo continue

Lecturas complementariasFurther reading

… si la entropía siempre crece, ¿cómo aparece la vida y su orden? Próxima cápsula. … if entropy always grows, how does life and its order appear? Next capsule.