OpenAI añade una nueva marca de agua a DALL-E 3

• El generador de imágenes DALL-E 3 de OpenAI añadirá una marca de agua en los metadatos de las imágenes
• A medida que aumenta el número de empresas que respaldan el estándar de C2PA (Coalition for Content Provenance and Authenticity), las imágenes generadas por DALL-E 3 mostrarán la marca de agua de C2PA
• La marca de agua aparecerá en las imágenes generadas en el sitio web de ChatGPT y en la API del modelo DALL-E 3; para los usuarios móviles, se añadirá antes del 12 de febrero
• La marca de agua incluirá un componente invisible de metadatos y un símbolo CR que aparecerá en la esquina superior izquierda
• El origen de las imágenes generadas en la plataforma de OpenAI (qué herramienta de IA se usó) podrá verificarse a través de sitios web como Content Credentials Verify
• Por ahora, solo las imágenes incluirán la marca de agua, no los videos ni el texto

Impacto de la marca de agua

• Añadir metadatos de marca de agua a las imágenes casi no afecta la latencia y no impacta la calidad de generación de imagen
• En algunas tareas, el tamaño de la imagen podría aumentar ligeramente

Coalition for Content Provenance and Authenticity (C2PA)

• C2PA, integrada por empresas como Adobe y Microsoft, está impulsando el uso de la marca de agua Content Credentials para identificar el origen del contenido y mostrar si fue creado por una persona o por IA
• Adobe creó el símbolo de Content Credentials, y OpenAI lo está añadiendo a las creaciones de DALL-E 3
• Meta anunció recientemente que añadirá etiquetas al contenido generado por IA en sus plataformas de redes sociales

Identificación de contenido generado por IA

• En la orden ejecutiva del gobierno de Biden sobre IA, la identificación de contenido generado por IA es una de las directrices principales
• Sin embargo, el marcado con marca de agua no es un método seguro para frenar la desinformación
• OpenAI señala que los metadatos de C2PA pueden eliminarse fácilmente, ya sea por accidente o de forma intencional, y que la mayoría de las plataformas de redes sociales suelen eliminar los metadatos del contenido subido
• Además, al tomar una captura de pantalla se pierden los metadatos
• OpenAI afirma en su sitio que adoptar métodos para establecer la procedencia y alentar a los usuarios a reconocer estas señales es importante para aumentar la confiabilidad de la información digital