- SynthID agrega una marca de agua a las imágenes generadas por IA de una forma que las herramientas de IA pueden detectar fácilmente, pero que es invisible para el ojo humano
- La marca de agua está integrada en los píxeles de la imagen y es resistente a transformaciones como recorte y cambio de tamaño
- La marca de agua de SynthID está diseñada para ayudar a identificar y detectar imágenes generadas por IA ante el aumento de los deepfakes
- La herramienta se lanzará públicamente y, al inicio, estará disponible para clientes de Google Cloud que usen la plataforma Vertex AI y el generador de imágenes Imagen
- A medida que SynthID sea probado y mejorado, Google espera usarlo en más lugares, compartir más sobre cómo funciona y recopilar más datos sobre su efectividad
- Demis Hassabis, CEO de Google DeepMind, espera que SynthID se convierta en un estándar en todo internet y que pueda ampliarse para usarse también en otros medios como video y texto
- El lanzamiento de SynthID está dirigido a clientes que necesitan verificar el origen de imágenes usadas para distintos fines, desde copias publicitarias hasta fotos de productos
- Como plan a futuro, también sería posible integrarlo en Google Slides y Docs, o incorporarlo como extensión de Chrome o dentro del navegador para identificar imágenes generadas por IA en toda la web
- Se espera que el lanzamiento de SynthID desencadene una competencia entre hackers y desarrolladores para encontrar formas de eludir el sistema, lo que requerirá actualizaciones y mejoras continuas por parte de Google DeepMind
- A pesar de la competencia con otras empresas que desarrollan herramientas similares de detección de IA, Google confía en que el marcado con marca de agua será una parte clave de la solución para identificar contenido generado por IA en la web
3 comentarios
Creo que, si realmente sale esa función, muy pronto aparecerá otra herramienta de IA que elimine SynthID.
No creo que haya existido un watermark imposible de borrar.
El problema no es borrar la marca de agua, sino poder determinar cuál es el original. Si la borras, entonces es una copia.
Lo más importante de SynthID, una tecnología para identificar imágenes generadas por IA, es que no pueda eliminarse ni reemplazarse. Y hasta que SynthID se aplique a todas las imágenes en internet, no se puede determinar que una imagen es una copia solo porque no tenga marca de agua.