- Una mujer con esquizofrenia experimentó un caso en el que se confundió una función publicitaria de una nevera inteligente con una alucinación y se internó por iniciativa propia.
- Al mostrar avisos de voz y anuncios personalizados, ella lo interpretó como parte de sus síntomas.
- La familia consultó asesoría legal para verificar la configuración del dispositivo y los temas de privacidad de datos.
- En la comunidad en línea se debatió la automatización excesiva de electrodomésticos inteligentes y su impacto en la salud mental.
- El diseño de la experiencia de usuario y la seguridad de los electrodomésticos basados en IA se volvió un tema de interés social.
Descripción del caso
- Una mujer con trastorno mental interpretó la frase que apareció en la pantalla del refrigerador inteligente como un mensaje dirigido a ella, y se trasladó por cuenta propia al hospital, donde recibió observación de dos días.
- La paciente también había sido internada antes por episodios psicóticos cada dos años, lo que llevó hasta un ajuste de medicación.
- La familia no entendió la situación al principio y al inicio creyó que los síntomas habían empeorado.
- Al confirmarlo más tarde, se descubrió que la frase en pantalla era una imagen promocional de un programa de TV, “WE’RE SORRY WE UPSET YOU, CAROL”, y que el nombre real de la paciente también era Carol, lo que provocó la confusión.
- El anuncio estaba ubicado en una posición poco habitual con apariencia de UI de electrodoméstico, por lo que a un usuario promedio le resultaba difícil identificarlo como publicidad; para grupos vulnerables, esto puede causar una confusión grave.
Reacción social
- En línea se señaló que la interfaz de voz y visual de electrodomésticos con IA puede desorientar a personas con trastorno mental.
- Se expandió la opinión de que el desarrollo tecnológico debe considerar la seguridad y la carga cognitiva de las personas vulnerables por salud mental.
- Siguió la discusión sobre la necesidad de estándares de accesibilidad y seguridad para tecnologías de hogares inteligentes
1 comentarios
Comentarios de Hacker News
Ya es hora de prohibir por completo toda la publicidad
Gracias a las tecnologías de bloqueo de anuncios en mi navegador y mi smartphone, casi no veo publicidad
Cuando de vez en cuando falla el bloqueo y termino viendo anuncios, me sorprende cómo los usuarios comunes, sin bloqueadores, soportan ese bombardeo
Antes se hablaba de encontrar un “punto medio”, pero ahora ese tipo de compromiso ya no tiene sentido
Si alguien quiere ver publicidad, solo debería permitirse en un formato que el usuario busque por su cuenta, como las Páginas Amarillas
La industria publicitaria no puede controlarse a sí misma y bloquea la regulación mediante lobby. La única solución es erradicar la publicidad como tal
Le compré una TV a mi abuelo, que estaba en cuidados por Alzheimer, y todos los modelos eran Smart TV
Había anuncios insertados en cualquier parte del menú y en un solo bloque reproducían 8 anuncios seguidos. Eran anuncios tan estimulantes como una tragamonedas
Esto va mucho más allá de una simple molestia: es un acto cruel contra las personas mayores, y creo que debería haber multas o incluso sanciones penales
La estructura de comprar y vender la atención de las personas está enfermando a toda la sociedad
La publicidad que el usuario busca voluntariamente está bien, pero mezclar psicología de recompensa con búsqueda de información se vuelve tóxico
Si intento usar una app y aparece un banner promocionando otro producto, eso es secuestrar la intención del usuario
No debería permitirse que distraer la atención de la gente sea uno de los principales motores de la economía
En Canadá hay anuncios rotativos por todas las vías, y justo al lado hay letreros de “no se distraiga al conducir”
Irónicamente, ese mismo letrero es lo que termina distrayendo al conductor
Porque los catálogos son materiales útiles que el usuario consulta solo cuando quiere
Los anuncios según la ubicación del usuario o lo que está buscando en ese momento me parecen aceptables, pero no los basados en su historial en otros sitios o en dónde almorzó ayer
La frontera entre publicidad contextual y publicidad personalizada puede ser borrosa, pero eso les corresponde definirlo al legislador y a los tribunales
En lo personal querría una prohibición mucho más fuerte, pero creo que esto al menos sería un compromiso aceptable tanto para la industria como para los consumidores
Que aparezcan anuncios en un refrigerador es espantoso, pero dudo que este caso sea real
Ya había una historia parecida en una publicación anterior de Reddit
Hoy en día YouTube está lleno de videos que adaptan anécdotas de Reddit. Son entretenidos, pero la mayoría parecen fabricados
Por eso, lo más seguro es leer siempre con escepticismo lo que aparece en comunidades grandes
En el mundo también pasan muchas coincidencias
Según un artículo de 9to5Google, Samsung afirmó que no muestra anuncios a pantalla completa
La imagen publicada en Reddit parece mostrar anuncios de un sitio de terceros dentro de la app del navegador del refrigerador
Describir eso como “anuncios mostrados de forma natural” me parece una interpretación demasiado generosa
Debería prohibirse por ley que los fabricantes se apropien del control de los dispositivos que compramos
Si un usuario quiere instalar una app con anuncios a cambio de dinero, que lo haga, pero imponer publicidad por defecto es injusto
Porque ese tipo de elección debilita el poder de negociación del resto de los consumidores
Y a fin de año eso se vuelve todavía más evidente
Pero depender de “empresas buenas” para encontrar alternativas sin anuncios es una estructura problemática
Si el fabricante en la práctica vende el dispositivo como una especie de “renta”, entonces el consumidor debería poder cancelar el contrato en cualquier momento y recibir un reembolso según la depreciación
Ya existen mecanismos legales, así que el mercado podría ajustar los detalles
Que un producto pagado muestre anuncios es absolutamente inaceptable
En especial para personas con trastornos mentales, la publicidad inesperada puede ser peligrosa
Incluso los anuncios que de repente se mueven o hablan, como los paneles digitales de las paradas de autobús, deberían requerir aviso previo
Últimamente los anuncios de terror, medicamentos y contenido sexual son demasiado agresivos
Google TV muestra anuncios de películas de terror que cubren toda la pared, y eso incomoda a la familia
Incluso durante la comida aparecen anuncios de enfermedades desagradables, y el contenido sexual tampoco es apropiado para ver en familia
Antes nosotros controlábamos los dispositivos, pero ahora nos envían contenido horrible de forma remota
Oculta el sufrimiento real de la enfermedad y solo muestra a una persona mayor paseando en canoa
Tuve que comprar otro decodificador para usar las mismas apps, pero al menos ya no hay anuncios
Esta historia del anuncio en el refrigerador parece ser un caso manipulado
La misma imagen ya venía circulando desde hacía una semana
Hace tiempo vi un póster de una campaña contra tirar basura que decía “HEY TOSSER!” y lo confundí con un mensaje dirigido a atacarme personalmente
Se puede consultar este concepto relacionado y la imagen del póster
Nuestra comunidad debería ser más crítica con este tipo de desinformación
Ver ejemplo 1, ejemplo 2
Durante 100 años los fabricantes se enfocaron en la función de refrigerar, pero en cuanto se añadió la conexión a internet empezaron a obsesionarse con monetizar al consumidor
El ecosistema publicitario está infectando como un virus a todos los dispositivos conectados
Como ya queda poco margen de innovación en la industria de electrodomésticos, las empresas buscan nuevas fuentes de ingresos en la “conectividad” y la “publicidad”
Reducir más los costos laborales ya llegó a su límite
La forma cambió, pero la publicidad siempre ha estado ahí
El refrigerador Samsung que heredé al mudarme fue lo peor
El fabricador de hielo falló y empezó a gotear agua, y las bisagras de la puerta se rompían constantemente
Al final me rendí y compré otro refrigerador
En Reddit también se repite mucho eso de “cualquiera menos Samsung”
Parece una estrategia de fabricar barato y ganar dinero con anuncios
Y aun así no entiendo por qué un refrigerador tendría que estar conectado a internet
Leí el cuento corto de Doctorow, «Unauthorized Bread», y me pareció una obra interesante sobre el problema del control en los dispositivos IoT
Estoy pensando si meterlo discretamente en la lista de lectura de mi madre
Aunque me dio la impresión de que estaba más dirigido a un público lector joven
Si puedes controlar directamente tu router, puedes bloquear el acceso a internet del dispositivo
Por ejemplo, los routers Asus permiten desde la interfaz desactivar solo la conexión externa de un equipo específico
Puedes mantener la red local y al mismo tiempo impedir que envíe datos hacia afuera, lo cual es útil para TVs o cámaras
Eso sí, hay que tener cuidado con dispositivos como cámaras de seguridad que necesiten acceso remoto
Se puede gestionar dejándoles internet solo temporalmente para actualizaciones o configuración inicial