Fallo alemán declara que Google es responsable por las respuestas incorrectas de AI Overviews
(the-decoder.com)- AI Overviews se clasifica no como una lista de resultados de búsqueda, sino como contenido generado por Google con su propia estructura y redacción, por lo que se le reconoce responsabilidad directa por afirmaciones falsas
- El Tribunal Regional de Múnich determinó que el resumen de IA vinculó erróneamente a dos editoriales con fraude, trampas de suscripción y prácticas comerciales sospechosas, y que ninguna de las fuentes enlazadas contenía esa relación
- La doctrina de responsabilidad limitada aplicada hasta ahora a motores de búsqueda y autocompletado se diseñó para funciones que ayudan a encontrar sitios web externos, por lo que no aplica a los resúmenes de IA
- El argumento de Google de que los usuarios pueden verificar por sí mismos las fuentes fue rechazado, y un resumen de IA comprensible por sí mismo no queda exento de responsabilidad solo porque exista la posibilidad de hacer búsquedas adicionales
- Aunque un análisis mostró que Google AI Overviews basado en Gemini 3 alcanzó una precisión del 91%, a la escala de Google eso puede implicar millones de respuestas incorrectas por hora, lo que podría traducirse en riesgos legales para servicios de IA similares
Puntos clave del fallo del tribunal alemán
- El Tribunal Regional de Múnich, en Alemania, determinó que Google es directamente responsable del contenido de los resúmenes de búsqueda generados por IA
- La orden judicial provisional prohíbe a Google difundir afirmaciones falsas sobre dos editoriales de Múnich mediante resúmenes de búsqueda generados por IA
- El tribunal clasificó el “AI overview” no como una simple lista de resultados de búsqueda, sino como contenido propio de Google
- Los resúmenes de IA de Google vincularon erróneamente a las dos editoriales, para ciertas búsquedas, con fraude, trampas de suscripción y prácticas comerciales sospechosas
- El tribunal concluyó que la IA confundió a los demandantes con otras empresas realmente sospechosas, y que las fuentes enlazadas no contenían esa relación
AI Overview no es un resultado de búsqueda
- AI Overviews no funciona como un resultado de búsqueda tradicional, sino que reescribe y evalúa los resultados con su propia redacción y su propia estructura
- En el caso cuestionado, el resumen de IA comenzaba con una frase categórica como: “Sí, [empresa] es conocida por prácticas comerciales sospechosas”
- El resumen de IA organizaba con su propia estructura un resumen, señales de sospecha de fraude y consejos para los usuarios
- El tribunal concluyó que el resumen de IA hizo afirmaciones que ni siquiera aparecían en los resultados de búsqueda
- Ninguna de las fuentes enlazadas establecía una relación entre los demandantes y las empresas sospechosas mencionadas por la IA, por lo que el tribunal consideró eso una afirmación propia del demandado
- Como Google creó la IA y la puso a disposición de los usuarios, también fue reconocido como la parte con influencia sobre la forma en que se ofrece la IA y sobre su algoritmo de funcionamiento
La doctrina de responsabilidad de los buscadores existentes no aplica
- La jurisprudencia previa del Tribunal Federal de Justicia de Alemania había reconocido una responsabilidad limitada para los motores de búsqueda tradicionales y el autocompletado
- Esa jurisprudencia sostenía que el operador del buscador solo permite encontrar contenido de terceros, por lo que responde únicamente como infractor indirecto
- El tribunal de Múnich concluyó que esa lógica no aplica a AI Overviews
- Mientras un buscador general apunta a sitios web externos, AI Overviews evalúa y combina contenido de varios sitios de terceros para generar afirmaciones sustanciales nuevas e independientes
- El tribunal consideró que solo Google puede verificar las afirmaciones de la IA y, como mínimo, comparar los sitios web de terceros usados como base con sus propias afirmaciones
- AI Overview no es una función absolutamente necesaria para usar internet, y los usuarios pueden organizar la información con los resultados de búsqueda tradicionales
Los límites del argumento de “el usuario puede verificar por sí mismo”
- En la audiencia, Google sostuvo que los usuarios pueden revisar directamente las fuentes enlazadas para verificar si el resumen de IA es correcto
- Google también argumentó que en general los usuarios saben que no deben confiar ciegamente en la información generada por IA
- El tribunal determinó que la mera posibilidad de refutar una afirmación mediante una investigación adicional no exime normalmente de responsabilidad por esa afirmación
- El AI Overview cuestionado era comprensible por sí mismo, contenía una afirmación completa entendible de manera independiente y no mencionaba interpretaciones alternativas ni contenido no confiable
- Un estudio que muestra que solo el 1% de los usuarios hace clic directamente en un enlace de fuente desde AI Overviews respalda la lógica del tribunal
- El tribunal trazó una analogía con el derecho de prensa: incluso si el lector no lee el artículo completo, el editor sigue siendo responsable de un adelanto comprensible por sí mismo
- Según el tribunal, si se aceptara la lógica de Google de que AI Overview es generalmente poco confiable, entonces la utilidad misma de la función se reduciría considerablemente
Vacío de protección y cuestión de la Digital Services Act
- Si Google solo fuera responsable por infracciones evidentes, las víctimas quedarían sin un recurso legal efectivo cuando la IA inventa afirmaciones falsas
- Como los sitios web de terceros usados como fuente no hicieron por sí mismos las afirmaciones cuestionadas, la víctima no puede demandar a esas fuentes por esa declaración
- Si bajo las reglas actuales tampoco se puede demandar eficazmente a Google, se genera un vacío de protección
- Google no pudo ampararse en la protección para proveedores de hosting de la Digital Services Act, ni pudo apoyarse en el procedimiento estándar de notificación y retiro aplicable a buscadores
Opiniones generadas por IA y libertad de expresión
- El tribunal determinó que la opinión de la IA no es la expresión de una convicción formada por una persona, sino el resultado de un algoritmo
- La prestación de investigación basada en IA fue vista ante todo como una expresión de la actividad comercial de Google
- El interés en expresar libremente opiniones y convicciones fue valorado como algo secundario
- Al comparar los derechos de personalidad de los demandantes con los intereses de Google, el tribunal concluyó que, al basarse en hechos falsos, el interés de Google debía ceder
- La IA vinculó a los demandantes con empresas no relacionadas, y según declaraciones juradas, los demandantes no tenían ninguna relación con esas empresas
Resultado del fallo y reparto de costos
- La sentencia judicial dio la razón en la mayoría de los reclamos a los demandantes
- Se prohibieron afirmaciones sobre fraude, vínculos con empresas sospechosas, trampas de suscripción, llamadas telefónicas que nunca ocurrieron y falta de disponibilidad
- Solo se rechazaron dos solicitudes menores
- Aunque ciertas frases ya no se mostraban, el tribunal consideró que seguía existiendo riesgo de reincidencia
- Google no emitió una declaración de cese con cláusula penal, y tampoco existía un mecanismo que impidiera que el algoritmo volviera a generar las mismas afirmaciones
- Google deberá asumir el 80% de los costos legales, mientras que los demandantes asumirán el 10% cada uno
- El tribunal consideró que este fallo incluso podría tener alcance internacional
El problema que deja una precisión del 91%
- En un análisis realizado por la startup de IA Oumi para The New York Times, los actuales Google AI Overviews basados en el modelo Gemini 3 mostraron una tasa de acierto del 91%
- Para la mayoría de las personas, esa cifra puede considerarse suficiente para el uso cotidiano
- A la escala de Google, incluso una precisión del 91% significa millones de respuestas incorrectas cada hora
- Si una cantidad suficiente de esas respuestas erróneas daña la reputación de empresas o personas, eso podría derivar en serios problemas legales no solo para Google, sino también para proveedores de servicios similares como ChatGPT, Claude y Perplexity
- El análisis de Oumi concluyó que el 56% de las respuestas correctas de Gemini 3 no podían respaldarse con las fuentes enlazadas por Google
- Los usuarios podrían enfrentarse a situaciones en las que no puedan rastrear el origen de las respuestas entregadas por la IA
- El tribunal de Múnich abordó precisamente el problema de que, cuando la IA genera afirmaciones propias que no están en las fuentes enlazadas, el operador debe asumir la responsabilidad
- Aún no está claro si esta lógica se mantendrá en apelación, y Google no hizo comentarios sobre la sentencia
2 comentarios
Está lleno de respuestas incorrectas jajaja
Comentarios en Hacker News
Si entendí bien, me gusta este fallo. Google creó un producto llamado Search, se establecieron reglas para ese producto y lo ha monopolizado
Ahora Google está convirtiendo ese producto en uno nuevo, pero sigue llamándolo con el mismo nombre. Porque quiere mantener el monopolio
Lo que se considera ilegal es esa parte. No es que Gemini en sí sea ilegal, sino que parece que lo ilegal es hacer pasar la peor versión de Gemini por Search y romper las reglas establecidas para Search. Pero no soy abogado
Tampoco parece que el artículo vaya por ahí. Esto se ve más como un tema tipo Section 230 de EE. UU. Section 230 es una ley estadounidense que protege a plataformas como Facebook o Google de ser tratadas como editoras bajo la premisa de que solo transmiten información, y aquí lo que se está diciendo es que en Alemania consideran que los resultados de IA fueron escritos por Google
Bien. La verdadera señal de una inteligencia artificial general será cuando la empresa acepte la responsabilidad y no esconda frases como “solo para fines de entretenimiento” en lo profundo de los términos y condiciones. Igual que cuando se responsabiliza a un empleado
Lo mismo con la conducción autónoma. Hasta que el auto asuma la responsabilidad y el usuario sea tratado como un simple pasajero, no es un auto autónomo
Dicho eso, parece que Alemania pronto perderá los resultados de IA de Google
Pero si tomas esa postura, también tienes que aceptar que las empresas no ofrezcan productos y servicios en ese país. Algún día, en 10 o 20 años, los sistemas de IA serán lo bastante precisos como para soportar el costo de los litigios, pero hasta entonces esos países se quedarán sin acceso hasta que existan sistemas completamente validados
En autos autónomos también basta con construir un modelo donde la empresa responda en ciertas situaciones y, en otras, el auto simplemente se niegue a conducir; no hace falta que sea especialmente brillante
Es irónico que este mismo artículo haga una afirmación incorrecta sobre qué responsabilidad se le reconoció a Google, y que casi nadie lo esté verificando
La ley que se violó protege la reputación de personas y empresas frente a afirmaciones contrarias a los hechos. Básicamente, si una afirmación es difamatoria, no puedes decir “X es Y” y luego agregar “podría estar equivocado, verifícalo tú mismo”
Este fallo es bastante bueno. Ojalá que de ahora en adelante Google deje de hacer afirmaciones fácticas tajantes como en este caso y use formulaciones más adecuadas, como “según X...”, junto con un aviso directo de que no puede verificarse. Mejor aún, que busque documentos judiciales para comprobar si realmente existe una decisión legal y se lo indique al usuario
Aunque tampoco estoy seguro de que tengas razón. ¿Qué afirmación falsa hace exactamente el artículo?
Habrá gente que se queje, pero al final Europa va a seguir yendo por delante en este tipo de marcos legales. Es molesto y a veces frena la velocidad de innovación, pero las empresas estadounidenses están haciendo sin límites cualquier cosa que deje dinero
Por ahora, lo único que se gana es volatilidad. Basta con dejar que EE. UU. absorba el golpe económico y social y quedarse con lo que sobreviva. No hay razón para apresurarse. Las partes útiles casi no tienen foso defensivo. Tampoco hay una diferencia tan grande frente a modelos abiertos o empresas pequeñas como para justificar el costo y el riesgo de operar en la frontera. Al final, gran parte de este negocio de IA probablemente termine asentándose en modelos locales para la mayoría de los casos de uso
EE. UU. podría crear al primer cuatrillonario, pero en términos reales eso no sería por innovación, sino por corrupción, explotación y desigualdad extrema de riqueza. Si la economía de la IA no se desarrolla “como se espera”, tampoco habrá recuperación. Ese dinero solo se habrá convertido en calor y basura de hardware desechable. No vale la pena poner en riesgo las pensiones y la cohesión social por una “ventaja tecnológica”
¿O de verdad crees que en Alemania hacer hosting de reseñas negativas sea prácticamente ilegal?
¿Qué otra conclusión tendría sentido? Las plataformas se están acostumbrando a zafarse mientras se usan para ofrecer productos peligrosos y defectuosos. Tiene que haber algún límite.
Lo siguiente debería ser Amazon vendiendo guías de recolección generadas por IA:
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
Cuando era niño, cualquier libro de recolección que compraras en una librería tenía al menos un mínimo de calidad. ¿De verdad es tan difícil? ¿La especulación abusiva ya no se castiga?
Fuente: https://www.youtube.com/watch?v=P-QaEB5eXSU
Minuto 3:00
Elegir una respuesta por el usuario, en vez de dejar que juzgue por sí mismo, es un poder enorme, y el tribunal acertó al ver que ese poder conlleva la responsabilidad de minimizar el daño que causa a los demás en la sociedad.
Me parece lógico.
Si Google Search cita sitios web de terceros que contienen información incorrecta, entonces no es responsabilidad de Google. La responsabilidad recae en ese tercero. Ese es el privilegio del que disfruta Google como motor de búsqueda.
Pero si Google actúa no como motor de búsqueda sino como máquina de respuestas, entonces ese privilegio ya no aplica. No hay ningún tercero al que trasladarle la responsabilidad.
Parece un fallo de sentido común. La IA no es Search. Los modelos grandes de lenguaje generan afirmaciones, no resultados de búsqueda que el usuario deba interpretar por su cuenta. Es la diferencia entre buscar un tema en el catálogo de fichas de una biblioteca y que un software te diga su propia respuesta.
Desde que aparecieron estas cosas y vi lo confiadas que eran para mentir, pensé que demandas como esta eran inevitables. Qué bueno que Alemania lo haya entendido bien.
El enlace al fallo está aquí. Como era de esperarse, está en alemán, y la página original parece haberse caído por el exceso de tráfico: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
No sé cuáles serían esas ganancias, pero por algo lo tienen activado, ¿no?