- La Comisión Europea planea impulsar medidas regulatorias más adelante este año dirigidas a las funciones de diseño adictivo de TikTok e Instagram
- Entre los objetivos están funciones de TikTok como el scroll infinito, la reproducción automática y las notificaciones push, que mantienen enganchados a los niños
- Se considera que Meta no ha aplicado correctamente su propio requisito de edad mínima de 13 años en Instagram y Facebook
- La UE investiga el problema de las madrigueras de conejo que llevan a contenido sobre trastornos alimentarios y autolesiones, y desarrolló una app de verificación de edad basada en estándares de protección de datos
- Tras las recomendaciones de un panel de expertos en seguridad infantil en línea y los resultados de la investigación, un borrador legislativo podría estar listo tan pronto como en verano
La UE impulsa regulación para proteger a los niños en redes sociales
- La Comisión Europea planea tomar medidas más adelante este año contra las funciones de diseño adictivo de TikTok e Instagram
- La presidenta de la Comisión Europea, Ursula von der Leyen, declaró en la European Summit on Artificial Intelligence and Children celebrada en Dinamarca que apuntarán a funciones específicas de las plataformas de redes sociales
- Entre los objetivos regulatorios están funciones de TikTok como el scroll infinito, la reproducción automática y las notificaciones push, que hacen que los niños sigan usando la plataforma
- También se considera que Meta no ha aplicado correctamente su propio requisito de edad mínima de 13 años en Instagram y Facebook
- La Comisión Europea solicitó comentarios a ByteDance y Meta
Contenido dañino y verificación de edad
- La UE está investigando la estructura de las plataformas que lleva a los niños a caer en madrigueras de conejo (rabbit holes) de contenido dañino
- Como ejemplos de contenido dañino se mencionan videos que fomentan trastornos alimentarios o autolesiones
- La Comisión Europea desarrolló su propia app de verificación de edad, y von der Leyen afirmó que tiene “los estándares de privacidad más altos del mundo”
- Los Estados miembros pronto podrán integrarla en una billetera digital, y las plataformas en línea también podrán aplicarla fácilmente
- Von der Leyen dijo: “Ya no hay excusas. La tecnología de verificación de edad está disponible”
- La Comisión Europea está esperando las recomendaciones de un panel especial de expertos en seguridad infantil en línea y los resultados de la investigación, y podría preparar un borrador legislativo tan pronto como en verano
Determinación de infracción de la DSA y presión legal
- La Comisión Europea determinó recientemente que Meta violó la Digital Services Act de la UE al no impedir el acceso de usuarios menores de 13 años a Facebook e Instagram
- La investigación preliminar concluyó que los menores podían eludir fácilmente los procedimientos de verificación
- El escrutinio legal sobre la seguridad infantil en las redes sociales ha aumentado desde que Meta y YouTube perdieron un importante fallo judicial en Estados Unidos en marzo
- Ese fallo concluyó que funciones de diseño como el scroll infinito y la reproducción automática contribuyeron a la adicción y al daño a la salud mental de los adolescentes
Medidas contra las Big Tech de EE. UU. y expansión internacional
- Durante el último año, la UE ha ampliado sus medidas contra las Big Tech de Estados Unidos en el proceso de aplicar leyes para reforzar la rendición de cuentas de las grandes tecnológicas
- Una serie de multas provocó críticas de funcionarios estadounidenses, que advirtieron que la UE corre el riesgo de perder oportunidades en la economía de la IA
- El presidente de Estados Unidos, Donald Trump, está respondiendo a multas impuestas a empresas estadounidenses que en los últimos dos años superaron en total los 7 mil millones de dólares
- Apple, Meta y Google han sido multadas por la UE por violaciones a las leyes antimonopolio y de competencia, y están impugnando esas sanciones
- A inicios de este año, la Comisión Europea inició una investigación contra X de Elon Musk por la difusión de contenido sexualmente explícito no consentido de mujeres y niños generado por el chatbot Grok
Avanza la tendencia de restringir redes sociales a menores de 16 años
- Gobiernos de distintos países están considerando legislación para proteger a los niños de los daños de las redes sociales
- Australia se convirtió en diciembre en el primer país en implementar una amplia prohibición de redes sociales para menores de 16 años
- Desde entonces, la tendencia de prohibir las redes sociales a menores de 16 años ha ido ganando fuerza entre gobiernos de todo el mundo
- En Europa, Spain, France y U.K. están proponiendo su propia legislación para excluir a los niños de las redes sociales
1 comentarios
Comentarios de Hacker News
Si presentas datos con un algoritmo, entonces ya no eres un transportista común neutral y debes asumir responsabilidad por el contenido que muestras.
Si dejas que el usuario decida directamente, como en el social media 1.0, el alcance de la responsabilidad podría ser distinto
Más bien, lo correcto sería decir que esto apunta a los algoritmos de recomendación personalizados, y no está claro que ofrecer un algoritmo de recomendación haga que un sitio deje de ser un transportista común neutral
¿Cómo va a elegirlo directamente el usuario entre millones o decenas de millones de videos? Incluso si permites buscar como en YouTube, necesitas decidir cómo ordenar los resultados, y eso también es un algoritmo, así que no es un problema que se resuelva nada fácil
Eso no es lo que el público o los políticos quieren decir cuando hablan de “algoritmo”, pero sigue siendo algo algo ambiguo. La UE parece entender bien ese punto, y por eso se enfoca en la expresión diseño adictivo. Eso muestra que el problema no es un algoritmo específico que pueda señalarse claramente, sino una zona difusa relacionada con las conductas que se inducen
¿Agregar anuncios también es un algoritmo? ¿Incluir likes? ¿Reproducir automáticamente el siguiente video cuando termina el anterior? ¿El scroll infinito? Estas preguntas siguen apareciendo
Pasar por alto esa diferencia y decir que “se resuelve fácilmente” no parece una propuesta suficientemente pensada
Esto no es solo un problema de niños.
Muchísimos adultos también lo necesitan. Las apps adictivas están muy bien diseñadas, mientras que la mayoría de los bloqueadores son demasiado fáciles de ignorar o demasiado molestos para seguir usándolos. Como me pasó lo mismo, hice un pequeño bloqueador para iOS, y el reto clave es lograr que sea lo bastante estricto para servir de verdad sin que la gente lo odie
No recuerdo la hora exacta, pero creo que era algo así como de 10 p. m. a 6 a. m. En general, me parece que podría ser una buena política para todos. También creo haber escuchado que durante los exámenes las empresas de IA quedan offline, aunque quizá lo esté recordando mal
En un mundo ideal, lo único por lo que el usuario debería seguir recibiendo una alerta de que alguien intentó contactarlo sería el buzón de voz, y aun así eso también debería estar sujeto a las mismas regulaciones contra el spam que todo lo demás
No entiendo por qué, en el momento en que la víctima cumple 18 años, de pronto estos algoritmos pasan a estar bien.
Son dañinos para todos, y si realmente se piensa regularlos, entonces debería ilegalizarse su uso para cualquier persona
De hecho, me gustaría poder subir mi propio modelo de recomendación a todas las redes sociales para curar mejor mi contenido, poner agujeros negros alrededor de temas que quiero evitar, y tener incluso una opción para desenfocarlo un poco y explorar
Solo dice que las plataformas que usan esas prácticas suelen apuntar a los niños
Aplicarlo a adultos es muchísimo más difícil porque el consenso es mucho más débil
Si es así, entonces la misma pregunta sería por qué al cumplir 18 años alguien de repente pasa a ser responsable de sus propios actos
La mayoría de los adultos tampoco tiene mucha madurez ni buen juicio, pero normalmente es menos peligroso permitir que los adultos tomen malas decisiones que darle a alguien el poder de decidir que ciertas decisiones son tan malas que no deberían permitirse
En particular, creo que limitar el scroll infinito sería algo bueno en general para reducir la adicción y el daño de las redes sociales.
Me gusta mucho que HN use páginas en vez de feeds o listas interminables
Las pautas para títulos[1] son excelentes, y ojalá más sitios web y medios tradicionales hicieran lo mismo. Las cosas que no me interesan no intentan desperdiciar mi tiempo ni mi atención
[1] https://news.ycombinator.com/newsguidelines.html
El “scroll infinito” es solo un detalle de implementación, así que aunque prohibieras solo eso, seguirían creando adicción con todas las demás técnicas
Escuché en un pódcast que llamaban a los algoritmos de redes sociales el tabaco de la era moderna, y me hizo muchísimo sentido.
Estas empresas saben que su producto es adictivo y malo para los usuarios, y aun así siguen empujándolo. Igual que el tabaco, no es malo solo para los niños, sino para todos. Por eso hice un bloqueador de algoritmos para Safari, y es sorprendente lo mucho más agradable que se vuelve el social media cuando no hay algoritmos de recomendación. La UE y otras jurisdicciones deberían ver este problema de forma más amplia y no solo limitada a los niños, pero entiendo por qué empiezan por ahí
Se agradece el esfuerzo, pero hay un interés económico de por medio, así que no es una opinión neutral sobre este tema. Si quieres filtrar feeds de redes sociales, también hay muchos plugins gratuitos como alternativa
Un grupo de empresas inimaginablemente ricas distribuye por todo el mundo un producto dañino, lo hace lo más adictivo posible y oculta activamente los estudios que demuestran el daño. De verdad espero que algún día veamos las redes sociales y el uso del smartphone como hoy vemos fumar
No es porque no siga a gente interesante, sino porque ya no hay un algoritmo que se meta con mi cerebro reptiliano para hacerme seguir deslizando sin parar. Cuando me acuerdo y entro a revisar, siempre es agradable, veo algunas publicaciones, leo un enlace interesante y 20 minutos después vuelvo a la realidad. Como usuario es excelente, aunque dudo que con eso pueda construirse un negocio basado en publicidad. Me gustaría decir que soy demasiado listo como para caer en decenas de videos “interesantes”, pero si me paso una hora ahí, esa hora desaparece y no queda nada
eu cigarettes boxesen Google Imágenes.Una prohibición puede ser una cuña delgada, pero creo que las redes sociales también necesitan algo como esas etiquetas de advertencia
Y luego presionan con fuerza por leyes que descarguen esa responsabilidad en alguien más. Es parecido a cuando la industria tabacalera impulsó mediante astroturfing leyes para prohibir la venta de cigarros a menores. Lo hacían aun sabiendo, por sus propios estudios, que no había gran diferencia en la tasa de tabaquismo juvenil y que incluso mejoraba la imagen “rebelde”. Se parece mucho a cómo Meta está presionando fuertemente para que el sistema operativo sea quien declare la edad
No estoy de acuerdo con esto. A menos que estemos hablando de sustancias químicas, la adicción tiene un lado subjetivo.
Hubo momentos en que los libros, las películas o los cómics también pudieron considerarse adictivos. En el caso de los menores, debería prohibirse por completo el acceso a redes sociales, y las propias redes deberían ser responsables de verificar la edad de sus usuarios, igual que un nightclub es responsable de la edad de quienes entran. Cosas como “la verificación de edad en el sistema operativo” son una tontería evidente que no busca proteger a los niños sino vigilarlos
Es bien sabido que los patrones adictivos de estas apps estimulan la dopamina de la misma manera que las drogas. En cierto sentido, la dopamina es la “sustancia química” central de la adicción, y la heroína y los algoritmos solo son dos maneras distintas de obtenerla
https://med.stanford.edu/news/insights/2021/10/addictive-pot...
La “adictividad” de una sustancia o una actividad puede evaluarse por cuánto se expresa ∆FosB, así que de ningún modo es algo totalmente subjetivo. Los libros, películas y cómics también pueden medirse con esta escala, y en general todo tiene cierto grado de potencial adictivo
Por ejemplo, Wikipedia explica que “la adicción es un trastorno neuropsicológico caracterizado por un impulso persistente e intenso de usar una droga o realizar una conducta que produce una recompensa psicológica inmediata, a pesar de un daño considerable y otras consecuencias negativas”. Entonces, decir que algo es adictivo significaría que tiende a causar adicción en una proporción significativa de la población
Por eso no creo que ponerlos como ejemplo sea adecuado
Algo realmente bueno de HN es que no tiene scroll infinito.
Reviso la primera pantalla, veo si hay algo que me llame la atención. Si hay muchos comentarios, parece importante. Cuando termino de revisar y leer, se acabó. En las redes sociales no hay final
/newy el botón de refrescar.Si soy sincero, como tengo problemas de procrastinación, HN también es una excusa tan buena como cualquier otra red social
Ni siquiera uso estos sitios directamente, ni soy del grupo de edad al que apuntan.
Instagram está tan lleno de anuncios que me fastidia al instante, así que no lo uso. Si estás del lado de querer promocionar un producto, entiendo la intención de aumentar el engagement. Últimamente dejé de scrollear Reddit o siquiera entrar con sesión iniciada, y de ver videos en YouTube, porque de verdad no tienen fin y es extraño. Si no estoy haciendo algo, me siento inquieto y aburrido, así que intento no hacer multitarea como antes, cuando ponía un video de YouTube y al mismo tiempo scrolleaba Reddit. Ahora prefiero trabajar en la computadora escuchando música o, si voy a ver algo, ver solo eso. También me dan ganas de buscar interacción social real y de ir a lugares como cafeterías, pero tristemente vivo en las afueras y para ir a una cafetería tengo que manejar. En este momento lo único que veo es este sitio o algunos sitios de emprendimiento para motivarme
Siento que yo también ando en una etapa parecida en mi día a día
No entiendo por qué siempre quieren que el gobierno haga de padre sustituto.
Mi mamá solía quitarme la computadora si no obedecía las reglas
¿Qué tiene que ver eso con hacer de padre?
Yo, como adulto, también necesito este tipo de protección
Ocurre en una escala aproximada de unos 3 meses