Fallo alemán declara que Google es responsable por las respuestas incorrectas de AI Overviews
(the-decoder.com)- AI Overviews se clasifica no como una lista de resultados de búsqueda, sino como contenido generado por Google con su propia estructura y redacción, por lo que se le reconoce responsabilidad directa por afirmaciones falsas
- El Tribunal Regional de Múnich determinó que el resumen de IA vinculó erróneamente a dos editoriales con fraude, trampas de suscripción y prácticas comerciales sospechosas, y que ninguna de las fuentes enlazadas contenía esa relación
- La doctrina de responsabilidad limitada aplicada hasta ahora a motores de búsqueda y autocompletado se diseñó para funciones que ayudan a encontrar sitios web externos, por lo que no aplica a los resúmenes de IA
- El argumento de Google de que los usuarios pueden verificar por sí mismos las fuentes fue rechazado, y un resumen de IA comprensible por sí mismo no queda exento de responsabilidad solo porque exista la posibilidad de hacer búsquedas adicionales
- Aunque un análisis mostró que Google AI Overviews basado en Gemini 3 alcanzó una precisión del 91%, a la escala de Google eso puede implicar millones de respuestas incorrectas por hora, lo que podría traducirse en riesgos legales para servicios de IA similares
Puntos clave del fallo del tribunal alemán
- El Tribunal Regional de Múnich, en Alemania, determinó que Google es directamente responsable del contenido de los resúmenes de búsqueda generados por IA
- La orden judicial provisional prohíbe a Google difundir afirmaciones falsas sobre dos editoriales de Múnich mediante resúmenes de búsqueda generados por IA
- El tribunal clasificó el “AI overview” no como una simple lista de resultados de búsqueda, sino como contenido propio de Google
- Los resúmenes de IA de Google vincularon erróneamente a las dos editoriales, para ciertas búsquedas, con fraude, trampas de suscripción y prácticas comerciales sospechosas
- El tribunal concluyó que la IA confundió a los demandantes con otras empresas realmente sospechosas, y que las fuentes enlazadas no contenían esa relación
AI Overview no es un resultado de búsqueda
- AI Overviews no funciona como un resultado de búsqueda tradicional, sino que reescribe y evalúa los resultados con su propia redacción y su propia estructura
- En el caso cuestionado, el resumen de IA comenzaba con una frase categórica como: “Sí, [empresa] es conocida por prácticas comerciales sospechosas”
- El resumen de IA organizaba con su propia estructura un resumen, señales de sospecha de fraude y consejos para los usuarios
- El tribunal concluyó que el resumen de IA hizo afirmaciones que ni siquiera aparecían en los resultados de búsqueda
- Ninguna de las fuentes enlazadas establecía una relación entre los demandantes y las empresas sospechosas mencionadas por la IA, por lo que el tribunal consideró eso una afirmación propia del demandado
- Como Google creó la IA y la puso a disposición de los usuarios, también fue reconocido como la parte con influencia sobre la forma en que se ofrece la IA y sobre su algoritmo de funcionamiento
La doctrina de responsabilidad de los buscadores existentes no aplica
- La jurisprudencia previa del Tribunal Federal de Justicia de Alemania había reconocido una responsabilidad limitada para los motores de búsqueda tradicionales y el autocompletado
- Esa jurisprudencia sostenía que el operador del buscador solo permite encontrar contenido de terceros, por lo que responde únicamente como infractor indirecto
- El tribunal de Múnich concluyó que esa lógica no aplica a AI Overviews
- Mientras un buscador general apunta a sitios web externos, AI Overviews evalúa y combina contenido de varios sitios de terceros para generar afirmaciones sustanciales nuevas e independientes
- El tribunal consideró que solo Google puede verificar las afirmaciones de la IA y, como mínimo, comparar los sitios web de terceros usados como base con sus propias afirmaciones
- AI Overview no es una función absolutamente necesaria para usar internet, y los usuarios pueden organizar la información con los resultados de búsqueda tradicionales
Los límites del argumento de “el usuario puede verificar por sí mismo”
- En la audiencia, Google sostuvo que los usuarios pueden revisar directamente las fuentes enlazadas para verificar si el resumen de IA es correcto
- Google también argumentó que en general los usuarios saben que no deben confiar ciegamente en la información generada por IA
- El tribunal determinó que la mera posibilidad de refutar una afirmación mediante una investigación adicional no exime normalmente de responsabilidad por esa afirmación
- El AI Overview cuestionado era comprensible por sí mismo, contenía una afirmación completa entendible de manera independiente y no mencionaba interpretaciones alternativas ni contenido no confiable
- Un estudio que muestra que solo el 1% de los usuarios hace clic directamente en un enlace de fuente desde AI Overviews respalda la lógica del tribunal
- El tribunal trazó una analogía con el derecho de prensa: incluso si el lector no lee el artículo completo, el editor sigue siendo responsable de un adelanto comprensible por sí mismo
- Según el tribunal, si se aceptara la lógica de Google de que AI Overview es generalmente poco confiable, entonces la utilidad misma de la función se reduciría considerablemente
Vacío de protección y cuestión de la Digital Services Act
- Si Google solo fuera responsable por infracciones evidentes, las víctimas quedarían sin un recurso legal efectivo cuando la IA inventa afirmaciones falsas
- Como los sitios web de terceros usados como fuente no hicieron por sí mismos las afirmaciones cuestionadas, la víctima no puede demandar a esas fuentes por esa declaración
- Si bajo las reglas actuales tampoco se puede demandar eficazmente a Google, se genera un vacío de protección
- Google no pudo ampararse en la protección para proveedores de hosting de la Digital Services Act, ni pudo apoyarse en el procedimiento estándar de notificación y retiro aplicable a buscadores
Opiniones generadas por IA y libertad de expresión
- El tribunal determinó que la opinión de la IA no es la expresión de una convicción formada por una persona, sino el resultado de un algoritmo
- La prestación de investigación basada en IA fue vista ante todo como una expresión de la actividad comercial de Google
- El interés en expresar libremente opiniones y convicciones fue valorado como algo secundario
- Al comparar los derechos de personalidad de los demandantes con los intereses de Google, el tribunal concluyó que, al basarse en hechos falsos, el interés de Google debía ceder
- La IA vinculó a los demandantes con empresas no relacionadas, y según declaraciones juradas, los demandantes no tenían ninguna relación con esas empresas
Resultado del fallo y reparto de costos
- La sentencia judicial dio la razón en la mayoría de los reclamos a los demandantes
- Se prohibieron afirmaciones sobre fraude, vínculos con empresas sospechosas, trampas de suscripción, llamadas telefónicas que nunca ocurrieron y falta de disponibilidad
- Solo se rechazaron dos solicitudes menores
- Aunque ciertas frases ya no se mostraban, el tribunal consideró que seguía existiendo riesgo de reincidencia
- Google no emitió una declaración de cese con cláusula penal, y tampoco existía un mecanismo que impidiera que el algoritmo volviera a generar las mismas afirmaciones
- Google deberá asumir el 80% de los costos legales, mientras que los demandantes asumirán el 10% cada uno
- El tribunal consideró que este fallo incluso podría tener alcance internacional
El problema que deja una precisión del 91%
- En un análisis realizado por la startup de IA Oumi para The New York Times, los actuales Google AI Overviews basados en el modelo Gemini 3 mostraron una tasa de acierto del 91%
- Para la mayoría de las personas, esa cifra puede considerarse suficiente para el uso cotidiano
- A la escala de Google, incluso una precisión del 91% significa millones de respuestas incorrectas cada hora
- Si una cantidad suficiente de esas respuestas erróneas daña la reputación de empresas o personas, eso podría derivar en serios problemas legales no solo para Google, sino también para proveedores de servicios similares como ChatGPT, Claude y Perplexity
- El análisis de Oumi concluyó que el 56% de las respuestas correctas de Gemini 3 no podían respaldarse con las fuentes enlazadas por Google
- Los usuarios podrían enfrentarse a situaciones en las que no puedan rastrear el origen de las respuestas entregadas por la IA
- El tribunal de Múnich abordó precisamente el problema de que, cuando la IA genera afirmaciones propias que no están en las fuentes enlazadas, el operador debe asumir la responsabilidad
- Aún no está claro si esta lógica se mantendrá en apelación, y Google no hizo comentarios sobre la sentencia
3 comentarios
Comentarios en Lobste.rs
Es distinto que un motor de búsqueda señale sitios web que probablemente correspondan a la consulta del usuario, a que lea esos sitios y ofrezca un resumen
Si eligió lo segundo, entonces la fuente de información del usuario pasa a ser Google mismo, y no debería poder evadir la responsabilidad que eso conlleva
Por cómo está redactado el artículo, parece decir que solo habría responsabilidad por daños respecto de las partes no tomadas de los resultados de búsqueda; suena un poco raro, aunque puede que yo lo haya entendido mal
Me hace pensar que esta podría ser una forma de sacar legalmente a los modelos de lenguaje grandes de la búsqueda
Si los modelos de lenguaje grandes son no deterministas y la empresa tiene que responder por lo que dicen, podría considerarse que no hay manera de garantizar que este tipo de algoritmo evite las alucinaciones difamatorias
También me desconcierta que, aunque el tribunal prácticamente falló a favor de los demandantes, diga que “Google asume el 80% de las costas legales y los demandantes pagan 10% cada uno”. Supongo que será por las dos “reclamaciones menores” que antes fueron desestimadas
Por eso el demandado no fue considerado culpable en esa parte y parece que así se repartieron también los costos
Un programa basado en modelos de lenguaje por lo general puede hacerse determinista para una misma entrada, y aunque use decodificación probabilística bastaría con fijar la semilla aleatoria
El problema es que no se puede demostrar que un programa basado en modelos de lenguaje produzca la respuesta correcta para una entrada determinada
Sobre el análisis que dice que Google AI Overviews, usando el modelo Gemini 3 actual, tuvo 91% de precisión y que eso “es lo bastante robusto para la mayoría de los usos cotidianos”, no entiendo en qué universo un buscador que miente 1 de cada 10 búsquedas sería suficiente para alguien, mucho menos para la mayoría de la gente
Por fin parece un fallo de sentido común. Si crees que la IA es una forma válida de responder preguntas, también tienes que estar dispuesto a responder por esas respuestas
Si sigues ofreciendo respuestas sabiendo que son falsas, debes asumir la responsabilidad por las consecuencias. La gente sabe que no debe creerle a cualquier página web, pero Google está presentando respuestas con su propio nombre y por encima de los sitios web. Incluso toma contenido de páginas que sí contienen la respuesta correcta y lo mezcla hasta volverlo incorrecto
Sostener que el usuario debe asumir que todo lo mostrado puede estar mal es poco ético. O presentas información correcta o no presentas nada; no puedes mostrar basura e información falsa como si fueran correctas y luego escudarte en un descargo de responsabilidad para decir que no se puede confiar en ello
Las empresas que ofrecen información con motores generativos de baja calidad deben aceptar que el usuario espera razonablemente que las respuestas automáticas sean correctas. Si ni siquiera pueden garantizar el requisito básico de repetir información correcta, no deberían fingir que pueden hacerlo
Las empresas y personas que usan estos programas de saqueo de contenido y de código abierto deberían ser responsables por todos sus resultados, ya sea por las consecuencias de información errónea o por infracción de derechos de autor derivada del robo de código OSS
El punto importante aquí es que en Alemania no existe el common law. Así que esta sentencia tiene efecto de señal, pero otros tribunales podrían decidir distinto
Aun así, esta decisión muestra muy bien que la ley vigente puede abordar suficientemente este aspecto de la IA, especialmente el tema de la responsabilidad. Es el principio de hacerse cargo de lo que uno produce, y al leerla parece bastante razonable
Buena explicación para quien tenga interés: https://max-eup2012.mpipriv.de/index.php/Precedent,_Rule_of
Hubo un músico en nuestro país al que Google AI Overview describió falsamente como abusador sexual infantil, y un recinto canceló su concierto por eso
En mi opinión, debería haber tenido base legal para demandar a Google por difamación y pérdida de ingresos. En la práctica no intentó demandar, pero igual
Parece justo. Si ese contenido es de Google, entonces el error es de Google; y si es de otra persona, podría ser infracción de derechos de autor
Esto definitivamente parece razonable y normal. En particular, esta parte me resulta interesante
El tribunal también señaló un vacío de protección. Si Google solo fuera responsable por infracciones evidentes, entonces cuando la IA hace una afirmación falsa la víctima no tendría un remedio legal real. Los sitios web de terceros usados como fuente ni siquiera hicieron la afirmación en cuestión, así que la víctima no puede demandar a la fuente, y con las reglas existentes tampoco podría demandar eficazmente a Google
Me parece una perspectiva bastante buena. Tal vez no sea el lugar adecuado para preguntarlo, pero me da curiosidad si en los tribunales de EE. UU. se consideran cosas parecidas. Lo pregunto por vivir en EE. UU., sin ninguna otra intención. Casi todo lo que sé de derecho viene de series y películas de juicios, y nunca he visto que se trate este tipo de consideración
¿Y qué pasa con la difamación por modelos de lenguaje grandes fuera de la búsqueda? Si pudiera hacer que claude.ai dijera cosas difamatorias sobre mí, ¿podría demandar?
En la práctica, eso significa que tendría que haber publicación para un consumo más amplio
¿No podrían evitar esta ley si ponen un descargo de responsabilidad debajo de cada resumen? La gente se seguiría dejando engañar, pero si nunca afirmaron dar respuestas verdaderas, ¿no dejarían de ser responsables?
Google intentó presentarse aquí como un intermediario. De hecho, las leyes sobre motores de búsqueda realmente dejan ese margen. Pero esta vez, con razón, fue identificado como la fuente primaria
Y me parece correcto. Las empresas de IA tienen que elegir: o sostienen que solo entrenaron una máquina y que la salida es independiente de la entrada, o sostienen que solo son un índice y remiten a otra parte. No pueden quedarse con ambas posturas mientras en temas de derechos de autor adoptan la primera
Más formalmente, consideró que muchos de los resúmenes de IA presentados como prueba eran nuevas afirmaciones de hecho originadas por Google mismo. Las opiniones reciben una protección legal más amplia, pero las afirmaciones de hecho son distintas. Además, algunas afirmaciones falsas de hecho ni siquiera estaban respaldadas por las fuentes enlazadas
En general todo esto me confunde, pero esta postura me parece positiva
Recuerdo vagamente que ya había precedentes de que eso no funciona así para las personas; no veo por qué debería funcionar para las empresas
Está lleno de respuestas incorrectas jajaja
Comentarios en Hacker News
Si entendí bien, me gusta este fallo. Google creó un producto llamado Search, se establecieron reglas para ese producto y lo ha monopolizado
Ahora Google está convirtiendo ese producto en uno nuevo, pero sigue llamándolo con el mismo nombre. Porque quiere mantener el monopolio
Lo que se considera ilegal es esa parte. No es que Gemini en sí sea ilegal, sino que parece que lo ilegal es hacer pasar la peor versión de Gemini por Search y romper las reglas establecidas para Search. Pero no soy abogado
Tampoco parece que el artículo vaya por ahí. Esto se ve más como un tema tipo Section 230 de EE. UU. Section 230 es una ley estadounidense que protege a plataformas como Facebook o Google de ser tratadas como editoras bajo la premisa de que solo transmiten información, y aquí lo que se está diciendo es que en Alemania consideran que los resultados de IA fueron escritos por Google
Bien. La verdadera señal de una inteligencia artificial general será cuando la empresa acepte la responsabilidad y no esconda frases como “solo para fines de entretenimiento” en lo profundo de los términos y condiciones. Igual que cuando se responsabiliza a un empleado
Lo mismo con la conducción autónoma. Hasta que el auto asuma la responsabilidad y el usuario sea tratado como un simple pasajero, no es un auto autónomo
Dicho eso, parece que Alemania pronto perderá los resultados de IA de Google
Pero si tomas esa postura, también tienes que aceptar que las empresas no ofrezcan productos y servicios en ese país. Algún día, en 10 o 20 años, los sistemas de IA serán lo bastante precisos como para soportar el costo de los litigios, pero hasta entonces esos países se quedarán sin acceso hasta que existan sistemas completamente validados
En autos autónomos también basta con construir un modelo donde la empresa responda en ciertas situaciones y, en otras, el auto simplemente se niegue a conducir; no hace falta que sea especialmente brillante
Es irónico que este mismo artículo haga una afirmación incorrecta sobre qué responsabilidad se le reconoció a Google, y que casi nadie lo esté verificando
La ley que se violó protege la reputación de personas y empresas frente a afirmaciones contrarias a los hechos. Básicamente, si una afirmación es difamatoria, no puedes decir “X es Y” y luego agregar “podría estar equivocado, verifícalo tú mismo”
Este fallo es bastante bueno. Ojalá que de ahora en adelante Google deje de hacer afirmaciones fácticas tajantes como en este caso y use formulaciones más adecuadas, como “según X...”, junto con un aviso directo de que no puede verificarse. Mejor aún, que busque documentos judiciales para comprobar si realmente existe una decisión legal y se lo indique al usuario
Aunque tampoco estoy seguro de que tengas razón. ¿Qué afirmación falsa hace exactamente el artículo?
Habrá gente que se queje, pero al final Europa va a seguir yendo por delante en este tipo de marcos legales. Es molesto y a veces frena la velocidad de innovación, pero las empresas estadounidenses están haciendo sin límites cualquier cosa que deje dinero
Por ahora, lo único que se gana es volatilidad. Basta con dejar que EE. UU. absorba el golpe económico y social y quedarse con lo que sobreviva. No hay razón para apresurarse. Las partes útiles casi no tienen foso defensivo. Tampoco hay una diferencia tan grande frente a modelos abiertos o empresas pequeñas como para justificar el costo y el riesgo de operar en la frontera. Al final, gran parte de este negocio de IA probablemente termine asentándose en modelos locales para la mayoría de los casos de uso
EE. UU. podría crear al primer cuatrillonario, pero en términos reales eso no sería por innovación, sino por corrupción, explotación y desigualdad extrema de riqueza. Si la economía de la IA no se desarrolla “como se espera”, tampoco habrá recuperación. Ese dinero solo se habrá convertido en calor y basura de hardware desechable. No vale la pena poner en riesgo las pensiones y la cohesión social por una “ventaja tecnológica”
¿O de verdad crees que en Alemania hacer hosting de reseñas negativas sea prácticamente ilegal?
¿Qué otra conclusión tendría sentido? Las plataformas se están acostumbrando a zafarse mientras se usan para ofrecer productos peligrosos y defectuosos. Tiene que haber algún límite.
Lo siguiente debería ser Amazon vendiendo guías de recolección generadas por IA:
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
Cuando era niño, cualquier libro de recolección que compraras en una librería tenía al menos un mínimo de calidad. ¿De verdad es tan difícil? ¿La especulación abusiva ya no se castiga?
Fuente: https://www.youtube.com/watch?v=P-QaEB5eXSU
Minuto 3:00
Elegir una respuesta por el usuario, en vez de dejar que juzgue por sí mismo, es un poder enorme, y el tribunal acertó al ver que ese poder conlleva la responsabilidad de minimizar el daño que causa a los demás en la sociedad.
Me parece lógico.
Si Google Search cita sitios web de terceros que contienen información incorrecta, entonces no es responsabilidad de Google. La responsabilidad recae en ese tercero. Ese es el privilegio del que disfruta Google como motor de búsqueda.
Pero si Google actúa no como motor de búsqueda sino como máquina de respuestas, entonces ese privilegio ya no aplica. No hay ningún tercero al que trasladarle la responsabilidad.
Parece un fallo de sentido común. La IA no es Search. Los modelos grandes de lenguaje generan afirmaciones, no resultados de búsqueda que el usuario deba interpretar por su cuenta. Es la diferencia entre buscar un tema en el catálogo de fichas de una biblioteca y que un software te diga su propia respuesta.
Desde que aparecieron estas cosas y vi lo confiadas que eran para mentir, pensé que demandas como esta eran inevitables. Qué bueno que Alemania lo haya entendido bien.
El enlace al fallo está aquí. Como era de esperarse, está en alemán, y la página original parece haberse caído por el exceso de tráfico: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
No sé cuáles serían esas ganancias, pero por algo lo tienen activado, ¿no?