- Según un tuit de Kevin Bankston, el servicio de IA Gemini de Google está leyendo documentos privados de Drive sin permiso del usuario
- Es algo impropio de la reputación de Google y no hay ningún control real sobre información personal sensible
- No es una buena señal sobre futuros problemas de privacidad derivados del despliegue forzado de la IA
¿Qué está pasando exactamente?
- Ni el equipo de soporte de Google ni la propia Gemini AI saben exactamente qué ocurre, pero Kevin Bankston plantea algunas teorías
- Técnicamente, esto estaría ocurriendo en todo Google Drive, no solo en Google Docs
¿Cuál es la causa de este problema?
- Según Gemini AI, debería existir una configuración de privacidad disponible públicamente para indicarle esto a Gemini, pero no es así
- Parece que la IA está "alucinando (mintiendo)" o que hay un fallo en algún sistema interno de los servidores de Google
- Aunque estos datos privados no se usen para entrenar a Gemini AI, la situación igual se ve mal
Problemas con el interruptor de configuración que descubrió Bankston
- La función de resúmenes de Gemini ya estaba desactivada
- El bot de Gemini estaba apuntando inicialmente a una página web completamente distinta
En el caso de Bankston, el problema parece estar limitado a Google Drive
- Ocurre al menos después de pulsar el botón de Gemini en un documento
- Los tipos de documento coincidentes (en este caso, PDF) activan automáticamente Google Gemini en el futuro para cualquier archivo del mismo tipo que se abra dentro de Google Drive
- La causa podría ser haber activado Google Workspace Labs en 2023. Eso podría ignorar la configuración prevista de Gemini AI
Aunque este problema esté limitado solo a usuarios de Google Workspace Labs, sigue siendo una desventaja grave
- Es el precio a pagar por ayudar a probar tecnología de punta
- El consentimiento del usuario sigue siendo importante a nivel detallado, especialmente cuando se trata de información potencialmente sensible
- Google falla por completo, al menos con una parte de su base de usuarios, al no respetar este principio
Opinión de GN⁺
- Recopilar y analizar información personal sin el consentimiento del usuario es una grave violación de la privacidad. Esto es aún más preocupante si se trata de datos sensibles como una devolución de impuestos
- A medida que la tecnología de IA avance, este tipo de problemas puede volverse aún más serio. Las empresas deben poner como prioridad máxima la protección de la privacidad del usuario
- Se necesitan mejores salvaguardas y más transparencia para los usuarios que participan en programas de pruebas beta como Google Workspace Labs
- Es importante respetar el consentimiento y la capacidad de elección del usuario al introducir tecnología de IA. Un enfoque forzado hace que los usuarios pierdan la confianza
- Google debería aprovechar este incidente para revisar las políticas de privacidad de sus servicios, incluida Gemini AI, y reforzar su comunicación con los usuarios
Aún no hay comentarios.