La entropía del oráculo
Cuánta información da cada método, en bits
Compara la entropía de cada método barra a barra y separa cuánta información está en el valor yin/yang y cuánta en el movimiento.
La entropía de Shannon, H = menos la suma de p·log₂p, mide la información en bits. Un hexagrama uniforme son exactamente 6 bits, el máximo para 64 estados. Pero no todos los métodos dan lo mismo: una línea de monedas tiene más entropía que una de milenrama, y toda la diferencia está en el movimiento (viejo o joven), porque el valor yin/yang puro es 1 bit exacto en ambos. En la primera página de aquel artículo de 1948 aparece, por primera vez, la palabra bit.
claro = valor yin/yang (1 bit en ambos) · sólido = movimiento (viejo/joven)
Encadenando consultas (la cadena de Markov), la distribución de equilibrio de las monedas es uniforme y conserva los 6 bits; la de la milenrama se sesga al yin y baja a 4,8677 bits = 6·H(1/4). El método antiguo no solo cambia a dónde tiende la serie, sino cuánta información retiene.
¿Cuántos bits cuesta transmitir una línea con el mejor código posible? El de Huffman, construido por el sitio (no cableado), da longitud esperada 1,875 bits con monedas (30/16) y 1,8125 bits con milenrama (29/16). El hallazgo: el método antiguo no solo tiene menos entropía, también se comprime mejor. Y ambos cumplen el teorema de codificación de fuente de Shannon: H ≤ L < H+1, la longitud óptima queda a menos de un bit de la entropía.
Un hexagrama uniforme son exactamente 6 bits (el maximo para 64 estados); una linea de monedas tiene 1,8113 bits y una de milenrama 1,7490, y la diferencia de 0,0623 vive toda en el movimiento porque el valor yin/yang es 1 bit en ambos.
verificar_entropia · fuente: Shannon, 1948La estacionaria de la cadena de milenrama tiene 4,8677 = 6 H(1/4) bits, contra los 6 de la uniforme de monedas.
verificar_entropia · fuente: Shannon, 1948El codigo optimo de Huffman de una linea da longitud esperada 30/16 = 1,875 bits con monedas y 29/16 = 1,8125 con milenrama: el metodo antiguo tiene menos entropia y ademas se comprime mejor, cumpliendo H <= L < H+1.
verificar_entropia · fuente: Shannon, 1948Los tipos de afirmación y la bibliografía completa (APA) están en Fundamentos.