1 puntos por GN⁺ 2024-12-15 | 1 comentarios | Compartir por WhatsApp
  • La entropía surgió hace 200 años a partir del problema de los límites de eficiencia de las máquinas de vapor, pero en la física moderna se está reinterpretando no tanto como una propiedad fija del mundo sino como una cantidad que mide la información que el observador desconoce
  • A través de Carnot, Clausius y Boltzmann, la entropía pasó a ser un concepto que explica cuánto calor no puede convertirse en trabajo y se dispersa, cuántos microestados son posibles y por qué el tiempo fluye en una sola dirección
  • Shannon y Jaynes ampliaron la entropía al lenguaje de la información y la incertidumbre, y la paradoja de mezcla de Gibbs muestra que aquello que podemos distinguir puede cambiar el trabajo extraíble y la entropía
  • Investigaciones recientes buscan incorporar a las matemáticas las capacidades limitadas de medición, memoria y cálculo del observador, y la entropía observacional, los motores de información, el motor de Szilard con observación parcial y los experimentos de termodinámica cuántica exploran esa dirección
  • Desde esta perspectiva, más que la eficiencia perfecta y la predicción perfecta, lo importante es la gestión de la incertidumbre, y la información se trata como un recurso físico que determina los límites de la extracción de energía, la toma de decisiones y las máquinas pequeñas

La entropía, nacida de la eficiencia de las máquinas de vapor

  • El concepto de entropía nació del problema de la eficiencia de las máquinas durante la Revolución Industrial
  • En 1824, el ingeniero militar francés de 28 años Sadi Carnot intentó calcular la eficiencia última de la máquina de vapor y publicó un libro de 118 páginas titulado Reflections on the Motive Power of Fire
  • Carnot veía la máquina de vapor como una máquina que aprovecha la tendencia del calor a fluir de un cuerpo caliente a uno frío
    • Existe un límite para la proporción de calor que puede convertirse en trabajo, y este resultado se conoce como el teorema de Carnot
    • Debido a la fricción, las vibraciones y los movimientos no deseados, parte de la energía siempre se dispersa, por lo que la eficiencia perfecta es imposible
  • En 1865, el físico alemán Rudolf Clausius llamó “entropy” a la proporción de energía que queda atrapada en formas inútiles
    • Formuló la segunda ley de la termodinámica en la forma: “la entropía del universo tiende hacia un valor máximo”

La interpretación probabilística de Boltzmann y la flecha del tiempo

  • En ese tiempo, los físicos entendían equivocadamente el calor como un fluido llamado “caloric”, pero más tarde se consolidó la idea de que el calor surge del movimiento de las moléculas
  • Ludwig Boltzmann reinterpretó la entropía en términos de probabilidad
    • Los estados detallados de cada molécula, como su posición y velocidad, son microestados
    • Las propiedades globales como la temperatura y la presión, o la disposición total de las piezas en un tablero, son macroestados
    • Cuantos más microestados puedan producir un macroestado, mayor es la entropía
  • Hay pocas formas de producir patrones ordenados, pero muchísimas más de producir patrones dispersos al azar
    • Por eso, la segunda ley puede entenderse como una afirmación probabilística: “hay más maneras de terminar en un estado desordenado que en uno limpio”
  • Como es más probable un estado mezclado que uno donde las partículas calientes y frías están separadas, el calor fluye de lo caliente a lo frío
  • La misma lógica se aplica a fenómenos como un vaso que se rompe, el hielo que se derrite, los líquidos que se mezclan y las hojas que se descomponen
    • El aumento de entropía imprime una flecha del tiempo en procesos que también parecen posibles en sentido inverso

La entropía, extendida a la teoría de la información

  • Durante la Segunda Guerra Mundial, Claude Shannon trabajaba en el cifrado de canales de comunicación y buscaba medir cuánta información contiene un mensaje
  • Shannon trató el conocimiento como una reducción de la incertidumbre y definió con probabilidad y logaritmos la incertidumbre sobre cuál será el siguiente carácter
    • Si todos los caracteres tienen la misma probabilidad, la fórmula de Shannon toma la misma forma que la fórmula de entropía de Boltzmann
    • Se dice que John von Neumann le recomendó a Shannon llamar “entropy” a esta cantidad
  • Así como la entropía termodinámica explica la eficiencia de los motores, la entropía de la información capta la eficiencia de la comunicación
    • Un mensaje con alta entropía tiene pocos patrones, por lo que es difícil adivinar el siguiente carácter y se necesitan más preguntas de sí/no para descubrir su contenido
    • Un mensaje con muchos patrones contiene menos información y es más fácil de adivinar
  • En 1957, E.T. Jaynes reinterpretó la termodinámica desde la teoría de la información en dos artículos
    • La termodinámica se parece más a una ciencia de inferencia estadística basada en mediciones incompletas de las partículas
    • Propuso el principio de máxima entropía, que asigna la misma posibilidad a todas las configuraciones compatibles con las restricciones conocidas
    • Este principio se usa no solo en mecánica estadística, sino también en machine learning y ecología
  • Aunque surgieron en contextos distintos, todos estos conceptos de entropía están conectados con la incertidumbre
    • Si se pierde la posición y el momento de las partículas, aumenta la entropía de Gibbs
    • Si las partículas se entrelazan con el entorno y su estado cuántico se difumina, aumenta la entropía de von Neumann
    • Si la materia cae en un agujero negro y el mundo exterior pierde esa información, aumenta la entropía de Bekenstein-Hawking

¿La entropía es la ignorancia de quién?

  • En la comprensión moderna, la entropía mide la ignorancia sobre el movimiento de las partículas, el siguiente número en una cadena codificada o el estado exacto de un sistema cuántico
  • Esta visión lleva enseguida a la pregunta: “¿la ignorancia de quién?”
  • Carlo Rovelli vio un problema en la explicación simplista de la segunda ley como un simple “aumento del desorden” al observar el fenómeno de aceite y agua que se separan después de agitarse
    • A simple vista parece aumentar el orden, pero un observador con una visión térmica poderosa vería que, durante la separación, se libera energía cinética en las moléculas y el estado se vuelve más desordenado térmicamente
    • El orden macroscópico puede formarse a costa del desorden microscópico
  • Jaynes mostró, con la paradoja de mezcla de Gibbs, que la capacidad del observador para distinguir puede cambiar la entropía
    • Si dos gases distintos, A y B, están separados por una barrera y luego se mezclan, la entropía aumenta
    • Si los dos gases son idénticos y tienen la misma presión y temperatura, levantar la barrera no cambia la entropía
    • Si los dos gases en realidad son distintos pero no hay forma de distinguirlos, para el experimentador se comportan como si fueran el mismo gas
  • En el ejemplo de Jaynes, dos tipos de argón solo difieren en su solubilidad respecto a un elemento todavía no descubierto llamado “whifnium”
    • Antes del descubrimiento del whifnium, no era posible distinguirlos, así que levantar la barrera no producía un cambio aparente de entropía
    • Después del descubrimiento del whifnium, sí se pueden distinguir los dos argones y se puede diseñar un pistón para extraer energía de la mezcla
  • La entropía y el trabajo extraíble dependen no solo de las diferencias del sistema mismo, sino también del conocimiento y los recursos del observador

Intentos de incorporar la dependencia del observador en las matemáticas

  • Si la entropía se trata no como una propiedad intrínseca del sistema sino como una propiedad que cambia según el observador, aparece una carga filosófica sobre la objetividad de la física
  • Anthony Aguirre y sus colaboradores idearon una medida llamada entropía observacional (observational entropy)
    • Especifica a qué propiedades puede acceder un observador dado y ajusta qué tan groseramente esas propiedades agrupan la realidad
    • Asigna, como Jaynes, la misma probabilidad a todos los microestados compatibles con las propiedades observadas
    • Esta fórmula conecta la entropía termodinámica, que trata rasgos macroscópicos, con la entropía de la información, que trata detalles microscópicos
  • Varios grupos de investigación independientes están usando la fórmula de Aguirre para buscar demostraciones más rigurosas de la segunda ley
  • Aguirre quiere usar esta medida para aclarar por qué el universo empezó en un estado de baja entropía, por qué el tiempo fluye hacia adelante y qué significa la entropía en los agujeros negros
  • En teoría cuántica de la información, la información se trata como un recurso que el observador usa para interactuar con el sistema
    • Para una supercomputadora con capacidad infinita de seguir el estado exacto de todas las partículas, la entropía sería siempre constante y no habría pérdida de información
    • Un observador con recursos computacionales finitos, como un humano, agrupa la realidad de manera gruesa y va perdiendo poco a poco los detalles microscópicos
    • Ese proceso se manifiesta como el paso del tiempo

Motores de información y la física de la toma de decisiones

  • En el verano de 2023, FQxI, cofundada por Aguirre, reunió en Yorkshire, Reino Unido, a físicos que estudian cómo usar la información como combustible
  • Para estos investigadores, la distinción entre motor y computadora se está volviendo cada vez más borrosa
    • La información se trata como un recurso físico real y cuantificable que indica cuánto trabajo puede extraerse de un sistema
  • El experimento mental de Leo Szilard muestra el núcleo de los motores de información
    • Una sola partícula dentro de una caja empuja una barrera, y un demonio usa una cuerda y una polea para levantar un peso afuera
    • Para obtener trabajo de manera repetida, el demonio debe saber de qué lado de la caja está la partícula
    • El motor de Szilard funciona impulsado por información
  • Los motores de información tampoco son perfectos, igual que las máquinas térmicas
    • Medir y almacenar la información genera, en promedio, al menos esa misma cantidad de entropía
    • El conocimiento hace posible el trabajo, pero obtenerlo y recordarlo también requiere energía
  • Susanne Still ha tratado al observador como un sistema físico con límites físicos
    • El observador debe decidir qué medir y qué guardar en una memoria limitada
    • Reunir información que no ayuda a hacer predicciones útiles reduce la eficiencia energética
    • Still propuso el principio de least self-impediment, que consiste en elegir estrategias de procesamiento de información lo más cercanas posible a los límites físicos
  • Still modela la observación parcial del mundo real con un motor de Szilard modificado que tiene una barrera inclinada
    • El usuario solo puede ver la posición horizontal de la partícula, por ejemplo una sombra
    • Si la sombra queda completamente a la izquierda o a la derecha de la barrera, se puede saber de qué lado está la partícula, pero en la zona intermedia no se puede saber si está arriba o abajo
    • Al calcular en este modelo la estrategia óptima de medición y codificación en memoria, aparece una derivación con base física del algoritmo de cuello de botella de información (information bottleneck algorithm) usado en machine learning

Pequeños motores de información en el laboratorio

  • John Bechhoefer y un equipo de Simon Fraser University recrearon un motor de Szilard con una esfera de sílice más pequeña que una partícula de polvo flotando en agua
    • Atraparon la esfera con un láser y vigilaron sus fluctuaciones térmicas aleatorias
    • Cuando la esfera oscilaba hacia arriba, elevaban rápidamente la trampa láser para aprovechar ese movimiento
    • Lograron levantar un peso gracias al poder de la información
  • Bechhoefer y Still estudian los límites para extraer trabajo en motores de información reales
    • Descubrieron que, en ciertas regiones, un motor de información puede rendir mucho mejor que un motor convencional
    • Inspirados por el trabajo teórico de Still, también rastrearon la ineficiencia causada por la información parcial sobre el estado de la esfera
  • Natalia Ares, de Oxford University, realiza experimentos para reducir los motores de información a escala cuántica
    • Atrapa un solo electrón dentro de un delgado cable de carbono sobre un chip de silicio del tamaño de un posavasos
    • Ese nanotubo se enfría hasta quedar a milésimas de grado del cero absoluto y vibra como una cuerda de guitarra
    • La frecuencia de vibración está determinada por el estado del electrón en su interior, y el equipo busca diagnosticar con esa sutil vibración cuánto trabajo producen los fenómenos cuánticos
  • Uno de los planes experimentales de Ares sigue las ideas de Still
    • Ajusta hasta qué punto la vibración del nanotubo depende perfectamente del electrón, o cuánto depende de otros factores desconocidos
    • Eso funciona como una perilla para controlar el grado de ignorancia del observador
  • A escala cuántica, se vuelve más complejo determinar qué tipo de entropía fija los límites relevantes y cómo debe definirse la producción de trabajo
    • Estudios recientes dirigidos por Nicole Yunger Halpern muestran que definiciones de producción de entropía que normalmente se usan como si significaran lo mismo pueden divergir entre sí en el dominio cuántico
    • En la escala cuántica no se pueden conocer simultáneamente ciertas propiedades, y el orden de las mediciones puede afectar el resultado
    • Yunger Halpern considera que los recursos adicionales del mundo cuántico podrían servir para rodear los límites del teorema de Carnot

Un cambio hacia una ciencia que maneja la incertidumbre

  • En septiembre de 2024, cientos de investigadores se reunieron en Palaiseau, Francia, para conmemorar el bicentenario del libro de Carnot
    • Los participantes discutieron qué papel juega la entropía en sus áreas de investigación, desde las celdas solares hasta los agujeros negros
    • Un responsable del Centro Nacional de Investigación Científica de Francia pidió disculpas en nombre del país por haber subestimado la influencia de Carnot
  • La intuición de Carnot nació del intento de controlar por completo un mundo mecánico, pero a medida que la entropía se expandió por las ciencias naturales, el foco cambió
  • Una visión refinada de la entropía abandona el sueño de la eficiencia perfecta y la predicción perfecta, y reconoce la incertidumbre irreducible del mundo
  • El colapso del orden impulsa a todas las máquinas, y esta nueva perspectiva puede revelar reservas de orden ocultas dentro del caos
  • La entropía no es solo un desorden inevitable, sino también un motor para la búsqueda del conocimiento que nos impulsa a detectar, inferir y tomar mejores decisiones

1 comentarios

 
GN⁺ 2024-12-15
Comentarios en Hacker News
  • Qué gusto ver que se está hablando de este artículo aquí
    Yo me encargué de la implementación técnica de los elementos interactivos, y el código fuente se puede ver aquí: https://github.com/jnsprnw/mip-entropy
    Está hecho con Svelte 5 y Tailwind

    • Me da curiosidad por qué eligieron Svelte 5 en lugar de otra cosa
      Últimamente siento que muchas interacciones de una sola vez se hacen con Svelte, ¿qué ventajas tiene?
  • Es interesante leer este artículo 27 años después de mi doctorado
    Durante mi doctorado en física teórica comparé los casos con cosas desconocidas y sin cosas desconocidas desde la perspectiva de la entropía como fuerza impulsora
    Mi tesis trataba sobre cómo manejar un sistema cuántico dentro de una cavidad, y consideraba una cavidad con un espejo perfectamente reflectante de un lado y, del otro, un espejo 99.999999% perfecto
    Del lado opuesto del espejo imperfecto puse otro espejo perfecto para completar un universo unidimensional, que en ASCII sería [100%] —l— [100-epsilon] ——L——— [100%], donde L >> l
    La solución del universo completo era sencilla con técnicas estándar de mecánica cuántica, pero la solución del universo pequeño con pérdidas no lo era, aunque físicamente ambos deberían ser equivalentes
    Así que usé la solución exacta del universo completo (l+L) y la comparé con posibles modelos del universo pequeño (l) que incluían términos no lineales para describir la pérdida
    En el sistema con pérdidas, la entropía existe o actúa como una fuerza impulsora, mientras que en el sistema sin pérdidas todo se conserva, y la conexión entre ambos no es una idea nueva ;-0

    • Fue interesante de leer, pero no me queda claro de qué tipo de espejos hablas, ni si son espejos ópticos
      Tampoco entiendo qué significan l y L, y en la última oración probablemente sobra how
    • Qué interesante. ¿Podrías compartir un enlace al artículo?
  • Después de escuchar a Sean Carroll explicar la entropía, el tema me pareció mucho más interesante
    Él tiene una inclinación fundacional y filosófica, y suele señalar que compiten distintas definiciones de entropía basadas en fundamentos filosóficos diferentes, y que una de ellas parece depender del observador
    https://youtu.be/x9COqqqsFtc?si=cQkfV5IpLC039Cl5
    https://youtu.be/XJ14ZO-e9NY?si=xi8idD5JmQbT5zxN
    Leonard Susskind tiene excelentes charlas y libros sobre información cuántica y el cálculo de la entropía de los agujeros negros, y de ahí han surgido hipótesis nuevas bastante radicales
    Stephen Wolfram también dio una charla larga sobre la historia del concepto de entropía, y estuvo bastante buena: https://www.youtube.com/live/ocOHxPs1LQ0?si=zvQNsj_FEGbTX2R3

    • ¿Por qué sería un concepto aunque sea un poco emocionante? Es el concepto más deprimente que he oído hasta ahora
  • La parte que dice: “Mientras los físicos intentaban unificar campos aparentemente desconectados durante el último siglo, replantearon la entropía y la devolvieron a quien mira por el microscopio, transformando la idea de desorden en una idea de ignorancia. La entropía ya no se considera una propiedad inherente al sistema, sino algo relativo al observador que interactúa con él” me parece una observación bastante común, aunque quizá sea por estar parado sobre hombros de gigantes
    Un estado de alta entropía es un macroestado al que corresponden muchos microestados
    ¿No es claramente una función centrada en el observador el simple hecho de clasificar varios microestados como un mismo macroestado?
    Por ejemplo, si en un dado considero que 5 y 6 son esencialmente el mismo resultado, entonces ese resultado pasa a ser más probable y de mayor entropía
    Pero eso se debe a mi clasificación, no a una propiedad inherente del sistema

    • Eso no es una observación común y, al menos en lo que respecta a la entropía en física y termodinámica, tampoco es correcto
      Decir que “un estado de alta entropía es un macroestado con muchos microestados correspondientes” es una forma de derivar la entropía dentro de un modelo dado
      Pero la entropía también se puede obtener mediante mediciones experimentales, y ahí el aparato experimental no se preocupa por microestados ni macroestados, sino por propiedades como entalpía, capacidad calorífica y temperatura
      Después uno puede construir un modelo y decir que la entropía de cierto gas coincide con lo que predice el modelo de gas ideal, o que la entropía de cierto sólido coincide con lo que sabemos de la entropía vibracional
      Lo mismo pasa con decir que los átomos de hidrógeno son indistinguibles. No se vuelven indistinguibles porque nosotros lo decidamos así, sino porque al calcular la entropía en ambos casos la realidad no coincide con el modelo de átomos distinguibles
      Si solo miras modelos limpios, la clasificación de macroestados puede parecer centrada en el observador, pero eso no explica por qué los valores experimentales de la entropía de una sustancia son consistentes independientemente del modelo que estuviera usando quien hace el experimento
      En el fondo, la entropía no depende del observador sino de la distribución de probabilidad
    • ¿Y quién decide qué observación es común? Lo que acabas de decir me parece perspicaz y muestra inteligencia
      Para muchísimos estudiantes que han leído libros introductorios de física, no es nada obvio
      De hecho, la entropía se ha enseñado mal con mucha frecuencia, y muy poca gente la ha entendido bien, aunque creo que eso poco a poco está mejorando
      Las revistas de divulgación, los documentales y los videos de YouTube que confunden todavía más al público son una prueba adicional
    • En física, la condición para que un cambio de sistema de referencia sea válido es que las leyes físicas también se transformen de acuerdo con ese cambio
      Todos los observadores deberían descubrir las mismas leyes fundamentales cuando hacen experimentos y aplican el método científico
      Siguiendo tu analogía, decir que 5 y 6 son lo mismo solo es posible si las reglas del juego pueden transformarse de esa manera, de modo que un observador que sí los distingue también llegue, dentro de su propio marco de referencia, a reglas correctamente transformadas
      Si pensamos en objetos como las estrellas de neutrones y los agujeros negros, donde entran a la vez la física cuántica y la relatividad general, esta afirmación se siente bastante fundamental, e incluso dan ganas de preguntarse si no estará expresada demasiado débilmente
  • Durante mucho tiempo no tuve intuición sobre lo que realmente representa la entropía
    Este video de Veritasium por fin me lo explicó de una manera que pude entender: https://www.youtube.com/watch?v=DxL2HoqLbyA

  • Es una lástima que no se mencione la incertidumbre de Heisenberg, y yo la veo como el límite teórico superior de este enfoque
    También hay que considerar cuánto cuesta computacionalmente en comparación con el trabajo útil que potencialmente podría obtenerse en este tipo de motores cuánticos
    Si el costo energético del cálculo supera el trabajo útil potencial, sigue siendo una pérdida neta o algo inútil
    Por último, está el problema del espectro entre patrones ocultos y aleatoriedad
    Algunos sistemas son más aleatorios que otros, y la posibilidad de obtener trabajo útil dentro de un costo energético computacional razonable disminuye a medida que se baja en el espectro de aleatoriedad
    Un sistema con máxima incertidumbre de Heisenberg, es decir, uno en el que las partículas no están entrelazadas ni correlacionadas con una estructura superior de otras partículas entrelazadas, no tiene margen para mejorar el conocimiento, por lo que su trabajo potencial también es 0
    Esta es la entropía última de los sistemas locales y macroscópicos, y probablemente también sea la causa de ciertas violaciones del principio de conservación de la energía, como la energía oscura

  • Hubo un hilo relacionado a inicios de este año
    https://news.ycombinator.com/item?id=41037981 ("What Is Entropy? (johncarlosbaez.wordpress.com)", 209 comentarios)

  • La gráfica interactiva que intenta mostrar que la entropía es subjetiva no me resulta convincente
    No define correctamente el macroestado del sistema que se está considerando, y luego muestra distintas entropías observacionales para dos macroestados diferentes
    Para Alice es el color; para Bob, la forma
    Eso no demuestra que la entropía sea subjetiva, sino que definir el sistema es algo subjetivo
    Si se tratara de los mismos dos macroestados, seguirían teniendo la misma entropía

    • Hubo muchas preguntas sobre problemas parecidos, y la mayoría trataban sobre “cuál es exactamente la naturaleza de eso de ser subjetivo”
      El artículo toca un poco ese punto, pero no lo suficiente, y quizá eso también se deba al estado de la literatura
      El artículo sobre entropía observacional de Safranek y otros fue interesante porque muestra que elegir una granularidad gruesa (coarse graining) de los macroestados puede llevar a entropías distintas, pero no aborda la pregunta clave de por qué se elige cierta granularidad gruesa o cierto macroestado en primer lugar
      En la literatura de teoría de la información, elegir una granularidad gruesa o un macroestado específico tiene un costo de información, un costo en el sentido de la complejidad de Kolmogórov
      En el ejemplo del artículo, es el costo de elegir forma o color para definir la entropía
      Por eso, la entropía observacional se siente como parte de una entropía o costo de información mayor que también incluye el costo de información de la granularidad gruesa elegida
      Esto vuelve a conectarse con la discusión posterior del artículo sobre el costo de la observación y los cuellos de botella de información, pero ni el artículo ni los papers enlazados parecen tratar explícitamente y en detalle este problema de costos diferenciales de macroestado
      Se habla de que existe un costo termodinámico, pero no queda claro cómo se acumula ese costo ni por qué se adopta un macroestado en lugar de otro
      Alice y Bob, en el ejemplo de la subjetividad, están definidos por restricciones físicas distintas, así que pueden verse como dos sistemas de observación con restricciones diferentes
      Desde otra perspectiva, supongamos que una caja con muchas partículas es “puramente aleatoria”
      En ese caso, sin importar lo que observen Alice y Bob, lo importante sería el número de partículas y cosas así; la entropía respecto al color dependería del número de colores, no de la posición de las partículas. Eso es porque ya está en un estado de entropía máxima
      Si reorganizas las partículas según cierta propiedad, ambos estarían reduciendo la entropía en cierta cantidad respecto a un estado puramente aleatorio, y creo que eso podría estar relacionado de alguna manera con la información necesaria para devolver las partículas a ese estado puramente aleatorio
      El artículo tiene muchos enlaces hacia otras áreas científicas y matemáticas, y lo relacionado con el costo informacional de la observación también conecta con la literatura de matemáticas y ciencias computacionales a través de Wolpert (2008), que lo abordó desde una perspectiva computacional, y luego Rukavicka
      En la literatura de neurociencia también hay ideas parecidas a la eficiencia de reducción de entropía, aunque ahora mismo no recuerdo los nombres de las personas relacionadas
      El artículo de Quanta fue realmente bueno, pero en áreas específicas había mucha vaguedad, y era difícil distinguir si esa vaguedad provenía de la redacción, de la propia literatura o de mi falta de comprensión
    • Quizá tenga más sentido si se ve a Alice y Bob como especies alienígenas distintas
      La especie de Alice no tiene instrumentos de medición para detectar la entropía del lado de Bob, así que Alice no puede extraer trabajo útil del sistema de Bob, y viceversa
      Por lo tanto, una definición objetiva de entropía tendría que incluir la capacidad del observador
      Al final, es lo mismo que dijiste sobre el macroestado
    • Esto resume muy bien por qué me molestó
      No lograba señalarlo con precisión, pero sí, exactamente
      Están confundiendo la definición del sistema con la definición de la entropía del sistema, y luego dicen que la entropía es subjetiva
      No lo es en absoluto. La entropía es simplemente una medición
  • No creo haber visto este video de Sabine en los comentarios. Podría resultar interesante para quienes se interesan por la entropía en física
    "I don't believe the 2nd law of thermodynamics. (The most uplifting video I'll ever make.)"
    https://m.youtube.com/watch?v=89Mq6gmPo0s
    Yo me encontré con la entropía en aprendizaje automático, teoría de la información y probabilidad
    Para mí es bastante intuitiva, interesante y útil, pero no tiene nada de misterioso
    Una función de densidad de probabilidad, o dicho de forma elegante, un histograma, es nuestro mejor conocimiento actual sobre cuántas veces esperamos que ocurra cada resultado
    Si haces un experimento una vez, no puedes saber el resultado; solo puedes contar el número de resultados distintos y no puedes estar seguro de exactamente cuál ocurrirá y cuándo
    Una función de densidad de probabilidad plana significa que el conocimiento es pobre. Todos los resultados son casi igual de posibles y yo soy muy ignorante. Es decir, la entropía es alta
    Una función de densidad de probabilidad puntiaguda significa que el conocimiento es bueno. Algún resultado es mucho más plausible y la entropía es baja
    En el extremo, si la función de densidad de probabilidad es una delta de Dirac, eso es conocimiento determinista
    Lo ligeramente interesante es cuando una nueva observación reduce el conocimiento
    Por ejemplo, supongamos que ahora estoy bastante seguro de no tener cáncer, y que la probabilidad para mi grupo de edad es 90:10
    Mañana me hice una prueba y salió positiva. Entre las personas de mi grupo de edad que dan positivo, aproximadamente la mitad realmente tiene cáncer
    Después de la prueba, mi probabilidad pasa a ser 50:50. Ahora me he vuelto completamente ignorante respecto a si tengo cáncer o no
    Antes de recibir el resultado positivo, yo estaba muy seguro de no tener cáncer, pero la nueva información, el resultado positivo, cambió la probabilidad marginal aguda de cáncer P_Y(y)={0.9,0.1} por la probabilidad condicional completamente ignorante P_Y(y|+ve test)={0.5,0.5}
    Este ejemplo viene de DeWeese y Meister, "How to measure the information gained from one symbol": https://pubmed.ncbi.nlm.nih.gov/10695762/

  • Buen texto
    La naturaleza subjetiva de la entropía y la información me hace pensar de inmediato en la teoría de la información integrada (IIT) sobre la consciencia y en su inutilidad fundamental
    No se puede discutir la información sin un punto de vista. Alguien tiene que definir los estados
    Que un dado tenga 6 estados también lo es solo para nosotros los humanos. ¿Qué pasa para una hormiga a la que podría caerle encima el dado?
    Volver a meter al observador en la discusión sobre la información es interesante. Porque entonces enseguida siguen preguntas como “¿cómo se constituye el observador?” y “¿cómo surge un punto de vista, es decir, un ‘yo’, en un ser formado por billones de células?”
    Si te interesa este desvío, vale la pena leer este artículo y nuestro libro mencionado en él
    https://saigaddam.medium.com/consciousness-is-a-consensus-me...

    • Como alguien con formación en ciencias de la computación y una licenciatura en física, siempre me ha parecido interesante que la entropía siga siendo una medida tan burda