Se está volviendo viral usar ChatGPT para hacer "búsqueda inversa de ubicación" a partir de fotos
(techcrunch.com)- La rastreo de ubicación basado en imágenes con ChatGPT se está expandiendo como una tendencia viral
- Los modelos más recientes de OpenAI, o3 y o4-mini, combinan análisis de imágenes y búsqueda web para inferir ubicaciones con alta precisión
- Los usuarios están probando con o3 al cargar menús de restaurantes, paisajes urbanos y fotos de personas para deducir ubicaciones, como en el juego "GeoGuessr"
- Crece la preocupación por la invasión de la privacidad, y aunque OpenAI dice que existen salvaguardas, faltan medidas claras de prevención
- OpenAI afirmó que cuenta con sistemas para detectar y responder a abusos, pero se señala que las limitaciones reales siguen siendo insuficientes
Tendencia de rastreo inverso basado en imágenes con ChatGPT
- Últimamente se está extendiendo entre los usuarios la tendencia de rastrear la ubicación que aparece en una imagen con ChatGPT
- Los nuevos modelos o3 y o4-mini lanzados por OpenAI incluyen capacidades para razonar sobre información visual dentro de imágenes
- Incluso fotos borrosas o distorsionadas pueden analizarse tras un preprocesamiento como recorte, rotación y ampliación
- Combinada con la búsqueda web, esta capacidad muestra un rendimiento sobresaliente para inferir la ubicación de ciudades, puntos de referencia, restaurantes, bares y más
ChatGPT se usa como si fuera GeoGuessr
- Los usuarios le piden a o3 que "actúe como GeoGuessr" e intentan estimar ubicaciones usando capturas de historias de Instagram, fotos de calles y menús
- GeoGuessr es un juego en línea en el que subes una foto y buscas la ubicación
- ChatGPT deduce ubicaciones solo a partir de pistas visuales, incluso sin historial previo de conversación ni metadatos EXIF
- En particular, o3 mostró mejor desempeño que GPT-4o en ciertos casos
Ejemplo: al ver una foto de un adorno de rinoceronte morado colgado en un bar oscuro
- GPT-4o respondió incorrectamente: "un pub británico"
- o3 infirió correctamente: "un bar speakeasy en Williamsburg"
GPT-4o también mostró una precisión sorprendente
- En una prueba realizada por TechCrunch, GPT-4o también mostró una precisión bastante alta y fue más rápido en el procesamiento
- Aun así, hubo casos en los que solo o3 logró identificar correctamente la ubicación
- Sin embargo, o3 tampoco es perfecto, y hay situaciones en las que no logra dar una respuesta o propone un lugar totalmente equivocado
Preocupaciones por posibles violaciones a la privacidad
- El hecho de que cualquiera pueda rastrear ubicaciones usando fotos de otras personas sin restricciones representa un problema serio
- Por ejemplo, capturar una historia de Instagram podría derivar en riesgo de doxxing
- Actualmente, OpenAI no menciona este problema en el informe oficial de seguridad sobre los modelos o3 y o4-mini
La postura oficial de OpenAI
- Unas horas después de publicarse el artículo, OpenAI envió a TechCrunch la siguiente declaración:
"o3 y o4-mini añaden capacidades de razonamiento visual a ChatGPT,
y pueden ser útiles en accesibilidad, investigación y situaciones de respuesta a emergencias.
Los hemos entrenado para rechazar solicitudes de información sensible,
introdujimos mecanismos para prevenir la identificación personal y vigilar abusos,
y actuamos de forma proactiva ante violaciones de nuestras políticas." - Aun así, siguen faltando mecanismos concretos de bloqueo o controles técnicos específicos para esta función de rastreo inverso de ubicación
6 comentarios
En realidad, solo es la computadora haciendo por ti la parte tediosa; ¿acaso el método en sí no existía ya?
La IA al fin y al cabo hace cosas que las personas pueden hacer. (Como una aspiradora robot)
El tiempo y el costo necesarios se han reducido decenas de veces. Sin duda, esto implica un aumento de la amenaza.
Como aparece en el texto, ya se disfrutaba en forma de “juego”, así que tampoco era algo fuera del alcance del público general desde antes.
La amenaza surge cuando se suben fotos con las que se puede identificar fácilmente la ubicación en situaciones donde esa ubicación no debería poder determinarse.
Antes que eso, como también se menciona en los comentarios de Hacker News, publicar algo en internet abierto ya es, de por sí, algo que debe asumir la exposición de información.
En general, estoy de acuerdo. Pero el hecho de que ahora cualquiera pueda hacerlo en un instante sí me hace pensar en efectos secundarios bastante aterradores.
Opiniones de Hacker News