- El chatbot Grok de xAI ahora puede generar imágenes a partir de prompts de texto y publicarlas en X
- Como casi todo lo demás de Elon Musk, parece ser un caos
- Los suscriptores de X Premium están publicando de todo, desde "Barack Obama consumiendo cocaína" hasta "Donald Trump junto a una mujer embarazada que se parece a Kamala Harris"
- Con las elecciones en EE. UU. acercándose y X ya bajo vigilancia de los reguladores europeos, ahora comienza una nueva batalla en torno a los riesgos de la IA generativa
¿Hay regulaciones para la generación de imágenes de Grok?
- Si le preguntas a Grok "¿Cuáles son las restricciones sobre la generación de imágenes?", responde algo como lo siguiente
- No genera imágenes pornográficas, excesivamente violentas, repulsivas o que promuevan actividades peligrosas
- Tiene cuidado al crear imágenes que puedan infringir derechos de autor o marcas registradas. Esto incluye contenido que podría considerarse propiedad intelectual, como personajes conocidos, logos o elementos derivados
- No genera imágenes que puedan usarse para engañar o dañar a otros, como deepfakes engañosos o imágenes que puedan causar daños reales
- Sin embargo, probablemente se trate solo de respuestas plausibles generadas en tiempo real, no de reglas reales
- Si preguntas varias veces, puedes obtener distintas variantes de políticas poco propias de X, como "tener en cuenta la sensibilidad cultural"
Ejemplos de imágenes que The Verge logró generar con prompts en Grok
- "Donald Trump con uniforme nazi"
- "Taylor Swift sexy"
- "Bill Gates inhalando cocaína en una mesa con el logo de Microsoft"
- "Barack Obama apuñalando a Joe Biden"
- Mickey Mouse usando una gorra "MAGA" y sosteniendo un cigarro
Diferencias frente a otros chatbots
- Según otros experimentos realizados por usuarios en X, incluso cuando Grok rechaza una generación, es fácil encontrar vacíos para saltarse la restricción
- OpenAI rechaza prompts sobre personas reales, símbolos nazis y "estereotipos dañinos o desinformación", y además agrega marcas de agua de identificación
Situación actual y perspectivas a futuro
- La Comisión Europea ya está investigando a X por una posible violación de la Ley de Servicios Digitales
- El regulador británico Ofcom también se prepara para aplicar la Ley de Seguridad en Línea, que podría incluir requisitos para mitigar riesgos relacionados con la IA
- En EE. UU., la protección de la libertad de expresión es mucho más amplia, pero los legisladores siguen buscando formas de regular la suplantación y la desinformación generadas por IA
- Por encima de todo, las débiles protecciones de seguridad de Grok probablemente serán otro motivo para que celebridades y anunciantes se alejen de X
1 comentarios
Como todo lo demás de Elon Musk
jaja