Los foros y comunidades de Corea del Sur ahora deberán revisar todas las imágenes con herramientas de censura por IA
(discuss.privacyguides.net)- Un cambio en la Ley de Negocios de Telecomunicaciones exige a los operadores de comunidades y foros de internet en Corea del Sur revisar con IA todas las imágenes y videos que suban los usuarios
- El gobierno no proporcionará el hardware para ejecutar los modelos de IA, por lo que los operadores de los sitios web deberán comprar por su cuenta GPUs Nvidia de nivel centro de datos, lo que podría generar presión financiera sobre pequeños negocios y foros
- Los sitios web deberán implementar de inmediato el hardware y las funciones de software necesarias a partir del 1 de julio
- La política de censura previa con IA para imágenes en comunidades de internet del país está vinculada a la enmienda de la Ley de Negocios de Telecomunicaciones conocida como la “ley de prevención del caso Nth Room”, que entró en vigor en 2021, y la opinión pública está dividida entre la necesidad de una red de seguridad social y la afectación a la libertad de expresión
- La aplicación de la política está generando al mismo tiempo carga de costos para los operadores, un corto período de preparación, problemas de suministro de equipos y controversia sobre la libertad de expresión
Cambio regulatorio y calendario de aplicación
- Un cambio regulatorio en la Ley de Negocios de Telecomunicaciones hace que el gobierno surcoreano exija a los operadores de comunidades y foros de internet revisar con IA las imágenes y videos subidos por usuarios a sus sitios web
- Los sitios web deberán implementar de inmediato el hardware y las funciones de software necesarias a partir del 1 de julio
- El autor de la publicación señala que la fecha de aplicación es el mes siguiente a la fecha de publicación
Hardware y carga de costos
- El gobierno no proporciona el hardware necesario para ejecutar los modelos de IA
- La estructura obliga a los operadores de sitios web a comprar por su cuenta GPUs Nvidia de nivel centro de datos
- El problema es que esta exigencia impondrá presión financiera sobre pequeños negocios y foros
Cobertura relacionada y reacción de operadores de comunidades
- El artículo relacionado ¿Censura previa incluso por subir imágenes? El trasfondo de la confrontación entre posturas a favor y en contra informa que ya se perfila una política para censurar previamente con IA incluso las imágenes subidas a comunidades de internet del país, y que la opinión pública está dividida entre la necesidad de una red de seguridad social y la vulneración de la libertad de expresión
- Ese reportaje señala que la enmienda de la Ley de Negocios de Telecomunicaciones conocida como la “ley de prevención del caso Nth Room” entró en vigor en 2021
- En la publicación del operador de Ruliweb, se indica que algunos asistentes esperaban un período de gracia de 6 meses, pero ante la afirmación de que era imposible conseguir el equipo, la parte del gobierno respondió que no sabía nada sobre los equipos y que, como el estándar legal rige desde julio, había que cumplirlo
Puntos clave
- La revisión con IA de imágenes y videos subidos por usuarios es una política en la que chocan el debate sobre la necesidad de una red de seguridad social y la controversia por la afectación a la libertad de expresión
- Como el gobierno no proporciona el equipo y al mismo tiempo plantea una aplicación inmediata, los costos operativos y la obtención del hardware quedan como una carga directa para los operadores de comunidades y foros
4 comentarios
También dicen que, aunque se use mucho, en realidad no se puede obligar a las comunidades con sede en el extranjero a hacer esto, así que las únicas que van a terminar perjudicadas son las comunidades nacionales.
Si ves las publicaciones de Hacker News, una buena parte de las víctimas de deepfakes son celebridades coreanas, y la producción real probablemente la hagan grupos criminales de China o del Sudeste Asiático, así que ponerse a censurar sitios nacionales sí que es una tontería.
Por fin salió este tema.
Comentarios de Hacker News
El problema es que para usar una herramienta de censura con IA hay que comprar la solución de un proveedor específico, y además el plazo real es de menos de un mes.
En Corea esto no resulta especialmente extraño, porque hay muchas empresas zombis de IT que sobreviven gracias a contratos gubernamentales, y en la práctica existe toda una estructura basada en CMS locales.
Los programadores coreanos con bajo dominio del inglés terminan dependiendo de esos CMS locales, y eso genera una dinámica en la que sus capacidades de programación también se debilitan.
Creo que esa es una de las razones por las que, a pesar de ser un país con una alta proporción de personas muy educadas, Corea tiene relativamente pocos programadores realmente destacados.
Corea fue el primer país del mundo en implementar una ley de censura de internet, y hay un historial documentado de censura bajo gobiernos tanto de izquierda como de derecha.
Aun así, es un problema complejo, porque este tipo de sistemas de censura también terminan creando contratos estatales de IT y puestos de trabajo.
Más concretamente, la mayoría de las plataformas nacionales de foros y tablones están fuertemente atadas a ciertos CMS comerciales, y en muchos proyectos vinculados al gobierno esos CMS se exigen de facto.
Los desarrolladores, por su limitada capacidad en inglés y su poca experiencia con alternativas globales de código abierto, quedan atrapados en ese ecosistema, y hasta funciones básicas de censura con IA terminan dependiendo de módulos monopólicos de esos proveedores.
Si se impone una fecha límite de menos de un mes, se elimina cualquier margen para evaluar opciones mejores, más baratas y más transparentes.
Al final, la propia estructura sigue reproduciendo un ciclo de dependencia del proveedor, capacidades técnicas débiles y cumplimiento superficial en lugar de innovación real.
Hay un problema real, luego aparece una solución apresurada y probablemente inferior al estilo NIH, se obliga a todos a usar una única implementación y después vienen años de estancamiento tecnológico: es exactamente la misma combinación.
Ojalá que esta obligación no termine, como pasó con SEED, atando por mucho tiempo la web coreana a un Internet Explorer obsoleto y a controles ActiveX inseguros.
https://archive.is/ermII
Me pregunto si esto abrirá un mercado para foros más libres dirigidos a coreanos, pero alojados en otros países.
Hay un contexto cultural que falta: en Corea los deepfakes, la pornografía no consentida y el abuso de imágenes personales son un problema extendido y casi constante.
Corea tiene muchas cosas buenas, pero el entorno sexual en el que se ven envueltos hombres, mujeres y niños es bastante terrible.
Es difícil juzgar esto solo con una forma de pensar occidental sin conocer la gravedad del problema, y más allá de cómo se vea el mecanismo, el problema de fondo es muy real.
La propuesta de poner un filtro de IA en foros pequeños suena rara y probablemente torpe, pero Corea, cuando se enfrenta a un problema real, suele inclinarse por actuar primero y por el “simplemente probémoslo”.
Por eso a veces salen resultados extraños, pero también se vuelve posible una resolución de problemas más dinámica.
Lo que quiero evitar de antemano aquí es la actitud de medir este asunto con los llamados valores “universales”.
La idea de derechos universales al estilo de la Revolución Francesa y la Ilustración en realidad no es tanto universal como la lógica de una esfera cultural; dentro de su propia burbuja es coherente, pero se ha exportado como si fuera el valor por defecto de todos.
En lo personal me gustan esos valores, pero también existen otras lógicas internamente coherentes, y creo que la lógica coreana es una de ellas.
Aunque suene trillado, Corea se apoya en la armonía y el colectivo, mientras que Occidente se apoya en el individuo, y ambos producen desviaciones; solo cambia el tipo.
Cuando llegué por primera vez a Corea pensé que la cantidad de cámaras de velocidad y CCTV era una locura, pero unos años después, más que acostumbrarme, empecé a verlo como un compromiso que en general funciona y hasta llegué a valorarlo.
Corea prefiere una policía ligera que parece amistosa y una fiscalización automática masiva, antes que una aplicación fuerte con vehículos blindados apareciendo de vez en cuando.
Eso es una decisión de diseño, no una señal de que se esté resbalando hacia una distopía.
La idea es tener una mente abierta y no aplicar sin crítica los valores de una cultura como si fueran la vara para medir a todos.
Se puede criticar el mecanismo todo lo que se quiera, pero no convertir la visión de valores de una cultura en el estándar con el que se juzga a todas las demás.
Personalmente creo que esta política es un intento errado, pero no pienso que sea una resbaladilla hacia la distopía.
Es más bien otro martes normal en Corea.
Aun así, me cuesta estar de acuerdo con clasificar la política de internet de Corea como “ligera”.
La política de internet coreana normalmente obliga el uso de tecnologías muy específicas, como SEED o este nuevo modelo, y entreteje reglamentos detallados hechos a la medida de Corea para crear monopolios u oligopolios de software objetivamente inferior y muy inseguro.
Eso no es una política ligera.
Incluso la Online Safety Act del Reino Unido, criticada en Occidente como un caso emblemático de exceso gubernamental por forzar verificación de edad, es mucho más ligera que la política al estilo coreano.
No obliga software o hardware específicos, ni cifrados o protocolos concretos, y la lista de métodos permitidos para verificar la edad explícitamente no es cerrada.
https://www.ofcom.org.uk/siteassets/resources/documents/onli...
En la mayoría de las políticas digitales, diría que Japón es un ejemplo de política realmente ligera.
Los requisitos son vagos, los ejemplos no son taxativos, hay muchas excepciones, y existe ese enfoque de “si técnicamente es engorroso, no hace falta implementar X”; además, puede hacerse manualmente o de forma totalmente automática.
Eso no significa que Japón siempre lo haga bien, y en cosas como requisitos de seguridad a veces es demasiado laxo, pero objetivamente sí es una política ligera.
La política digital coreana no es ligera bajo ninguna definición.
Si llamas “ligero” a no mandar tanques para atrapar a quienes distribuyen porno de venganza, bueno, está bien, ¿pero qué país hace eso?
Si mides lo pesada que es una política por lo restrictiva que resulta, pocos países podrían competir con Corea.
En 2024 alguien incluso hizo un mapa de reportes de deepfakes en escuelas y se volvió tema nacional: https://www.koreatimes.co.kr/southkorea/society/20240830/dee...
Hay un problema realmente espantoso, pero las soluciones espantosas las proponen personas que parecen no entender internet, así que se parece muchísimo a la verificación de edad.
Se siente como cuando se dobla un dedo de la pata de mono.
Es un buen ejercicio imaginar esto trasladado a una situación no tecnológica.
Operar un bar, un restaurante, una librería, un taller artístico, o incluso simplemente reunir gente a mediana o gran escala, sería ilegal a menos que un censor designado por el gobierno tuviera la autoridad de escuchar y hacer callar a las personas.
¿Todavía parece “armonioso”?
No se puede decir que Corea no tenga un problema de porno de venganza, y de hecho esa es básicamente la lógica del gobierno coreano.
Pero el problema es que las principales fuentes de porno de venganza en realidad son comunidades en el extranjero usadas por coreanos.
Claro, la comunidad doméstica más grande de Corea también ha tenido problemas de filtrado, y hubo cosas como amenazas de terrorismo o casos de violación.
Pero eso es porque DCinside es gigantesco.
En realidad, los incidentes que más indignaron al público empezaron en Twitter(X) y Telegram.
Entonces, ¿los actores principales de este problema pasan a ser objeto de censura? No.
¿La censura realmente elimina los problemas mencionados antes? ¿O solo los vuelve más oscuros y peores?
Personalmente tengo una forma de pensar típicamente de Asia Oriental, así que creo que cierto grado de restricción de la libertad es necesario.
Aun así, honestamente esto me parece una ley marcial de internet.
Obligar CUDA y guiar a la gente a Ubuntu 18.04 es raro.
Como referencia, Ubuntu 18.04 dejó de tener soporte en 2023.
¿De verdad creen que un solo servidor con GPU Quadro puede manejar tráfico alto en tiempo real?
Parece que hubo un acuerdo por debajo de la mesa, o si no, una incompetencia grave.
Los medios tradicionales no están cubriendo este tema lo suficiente.
Da la impresión de que a nadie le importa salvo a la gente que siempre está enojada y vive metida en internet.
Nunca tuve grandes expectativas sobre el internet libre en este país, pero se está poniendo peor de lo que imaginaba.
El futuro serán comunidades privadas autohospedadas a las que solo se invite a personas verificadas como reales, y probablemente la verificación se haga en persona.
Sinceramente, ya me parece bien que el internet público muera y que la gente vuelva a reunirse en grupos locales más pequeños.
Sin control de las big tech, sin tonterías de criptomonedas como nostr, y sin que malos administradores puedan borrar publicaciones como en Mastodon.
Solo pueden bloquearlas en su propio servidor.
Encima de eso se pueden construir redes de confianza o sistemas de verificación, como tangled hace con el código.
¿Un sistema tipo “yo respondo por esta persona”?
Los foros de internet coreanos se parecen más a sitios antiguos como Hacker News que a apps modernas como Reddit.
Así se ve por su UI/UX y por cómo usan la tecnología web, y aun así sorprende que tengan visitantes equivalentes al 20% de la población.
Me pregunto si, por el idioma coreano, se quedaron con un estilo de foro más antiguo que las apps del mundo angloparlante.
Personalmente, me gusta mucho más ese enfoque.
Parece que Corea está siguiendo el método de su vecino del norte.
¿Esto afectará también al software que se exporta desde Corea?
No parece que unos teléfonos Samsung con una herramienta de censura por IA preinstalada vayan a volverse más populares.
Cuando Apple intentó hacerlo en el iPhone, también recibió un rechazo fuerte.
Lo probé por curiosidad, y rechazaba mucha edición de imágenes por considerarla “inapropiada”, sobre todo la violencia.
La base ya está instalada.
El caso de Nth Room pudo haber allanado el camino para este ambiente de aprobación tan fuerte.
https://en.wikipedia.org/wiki/Nth_Room_case
Corea está tecnológicamente atrasada en prácticamente todos los sentidos posibles.
Durante mucho tiempo necesitabas una computadora con Windows para usar servicios del gobierno o de bancos, y en muchos servicios sigue siendo así.
Por la dependencia de laptops Windows chafas, es común ver a gente usando laptops en cafés y cargando un mouse externo.
El formato de documento de facto es el desastroso formato de Hancom.
Cuando ves noticias coreanas, resulta ridículo que cada vez que muestran video en lugares públicos, el 80% de la pantalla esté difuminado.
Casi parece que no hubiera razón para verlo.
Las API y su documentación están diseñadas y escritas de forma verdaderamente pésima; son un chiste.
Los proveedores de mapas externos estuvieron prácticamente excluidos del mercado hasta el año pasado.
Si quieres registrarte en algo, literalmente siempre necesitas un número de teléfono.
Hay muchos más ejemplos, pero estos son solo los que se me vienen a la mente ahora mismo.
No hay nada de espacio para que la dinámica respire.
El problema de Corea no es político, sino algo que surge de un puro oligopolio.
En Twitter les gusta imaginar a Corea como un país tecnofuturista, pero la realidad es que la cultura startup es terrible, no existe un ecosistema de capital de riesgo y las grandes empresas escriben todas las reglas.
Esto viene de las características de un país pequeño.
De hecho, en Corea se menosprecia Twitter(X) como un lugar que solo usan locos y no tiene buena imagen.
En términos generales, es una estructura de oligopolio de grandes empresas montada sobre un sistema nacional centrado en los chaebol y la gestión familiar.
Dentro de eso, el tema clave pasa a ser sobrevivir mediante contratos con empresas, más que mediante inversión agresiva.
Personalmente odio esta cultura, así que estoy intentando conseguir trabajo en Estados Unidos.
Es agotador trabajar 84 horas a la semana durante 3 meses y no ganar ni 8 millones de wones.
Que los proveedores de mapas externos quedaran excluidos fue literalmente algo positivo para todos los residentes de Corea, y solo fue negativo para los accionistas de Google y para algunos turistas que tuvieron que descargar una app de mapas local.
Un político hizo algo que benefició a la ciudadanía, ¿cuál es el problema?
Que se necesite un número de teléfono para registrarse en algo también tiene muchas ventajas en la práctica.
En HN no suele caer bien reconocer esto, pero en realidad es una concesión defendible.
Puedes no estar de acuerdo, pero fingir que es claramente malo es ignorancia.
En 2026, nadie usa el formato Hancom salvo al tratar con instituciones gubernamentales.
Decir que es el estándar de facto de toda Corea es una generalización excesiva.