Ilegal por diseño: exponer el costo en derechos humanos de la IA generativa

• Los sistemas independientes de IA generativa entran en conflicto con el derecho internacional de los derechos humanos (IHRL) y sus estándares en todo su ciclo de diseño, desarrollo e implementación cuando se basan en scraping web ilegal
• Aunque esta tecnología promete automatización sofisticada y eficiencia, las prácticas de recolección de datos y entrenamiento de modelos dependen de una estructura que abusa del derecho a la privacidad
• Estas mismas prácticas también facilitan la discriminación y generan costos en derechos humanos al amenazar la libertad de expresión y la libertad de pensamiento
• Amnesty International concluye que los sistemas basados en scraping web ilegal dependen por diseño de violaciones masivas de la privacidad
• Estos sistemas son fundamentalmente incompatibles con el derecho internacional de los derechos humanos, y Amnesty International exige su prohibición

---

Conclusiones clave

• Los sistemas independientes de IA generativa basados en scraping web ilegal entran en conflicto con el derecho internacional de los derechos humanos (IHRL) y con los estándares relacionados en las etapas de diseño, desarrollo e implementación
• Amnesty International considera que estos sistemas dependen por diseño de violaciones masivas de la privacidad y que son fundamentalmente incompatibles con el derecho internacional de los derechos humanos

Mecanismo de vulneración de derechos humanos

• La tecnología de IA generativa promete automatización sofisticada y eficiencia
• Sin embargo, las prácticas de recolección de datos y entrenamiento de modelos dependen del abuso del derecho a la privacidad
• Estas prácticas facilitan la discriminación y amenazan la libertad de expresión y la libertad de pensamiento

Conclusión y exigencias

• Amnesty International exige la prohibición de los sistemas independientes de IA generativa basados en scraping web ilegal
• El informe en inglés puede descargarse en Download PDF

[GN⁺]

Opiniones en Lobste.rs

• Espero que, por la expresión "web scraping ilegal", no se genere otra consecuencia no deseada: una corriente que quiera prohibir también el web scraping

  • No parece que estén empujando una prohibición del scraping; si lees esa parte, las preocupaciones son bastante concretas y razonables
    El problema es que las empresas están recopilando datos personales de forma masiva sin consentimiento y luego comercializan esos datos de maneras que implican riesgo de exposición
  • Es una lástima que parezca que Amnesty se está dejando llevar por la lógica de las editoriales

• Que Amnesty International pida la prohibición de esos sistemas muestra que está adoptando una postura bastante fuerte

  • Habría sido mejor que no lo expresaran así. Algunos lectores podrían descartarlo como un idealismo inviable, tipo “¿quieren volver a cerrar una caja de Pandora que ya se abrió?”
    Aun así, señalan con razón la necesidad de mecanismos de reparación en la toma de decisiones basada en IA, los sesgos observados en los modelos y problemas como el scraping sin consentimiento, sin atribución de autoría y sin compensación

• Todavía no lo he leído completo, pero en la conclusión de la sección 5.6, p.35, hubo algo que me llamó la atención
  Amnesty International pidió a DeepSeek, Google, OpenAI, Meta, Stability AI, Intel, VMware, Midjourney, Microsoft y Amazon que respondieran a sus hallazgos e inquietudes sobre sistemas generativos de IA independientes y sus riesgos para los derechos humanos, pero Anthropic destaca por su ausencia
  Busqué menciones de Anthropic en el informe y solo encontré una sobre que el ejército de EE. UU. usó Claude de Anthropic cuando atacó a Irán junto con Israel en febrero de 2026, además de un pasaje que dice que el gobierno estadounidense ignoró las condiciones contractuales que restringían el uso de Anthropic para “vigilancia doméstica a gran escala” y “armas totalmente autónomas sin supervisión”
  También dice que los productos de Anthropic se usaban en el gobierno y el ejército de EE. UU. desde 2024, que fue la primera “empresa avanzada de IA” cuyos productos se desplegaron en todo el aparato gubernamental que maneja trabajo clasificado, y que, como Anthropic no modificó esas restricciones, el Pentágono la clasificó como “Supply Chain Risk” el 6 de marzo de 2026
  No estoy tratando de decir que Amnesty tenga un sesgo pro-Anthropic, pero me confunde por qué no la incluyeron en esa lista. Puede ser que esa lista se haya armado porque el informe menciona varias veces a OpenAI, Google, Meta, etc. junto con fuentes de casos concretos de daños, y que no existieran fuentes similares sobre Anthropic, pero aun así se siente extraño

• Parece que Amnesty ya no es la Amnesty de antes

• Este briefing dice que se enfoca en la tubería de datos dentro de la cadena de suministro de productos de IA generativa, y en particular en las etapas de recopilación, análisis y procesamiento de datos
  Además, Amnesty International define las herramientas independientes de IA generativa como productos desarrollados, desplegados y comercializados únicamente para funciones de IA generativa, como chatbots de IA y generadores de imágenes, video, audio y texto, y excluye funciones añadidas a suites de productos más amplias, como una función opcional de IA generativa en un procesador de texto