- Queda totalmente prohibido el uso de sistemas de IA clasificados como de “riesgo inaceptable” en la UE
- El 2 de febrero fue la primera fecha límite de cumplimiento de la EU AI Act, y esta norma aplica a todas las tecnologías de IA que se ofrezcan o utilicen dentro de la UE
- Incumplirla puede implicar una multa equivalente al 7% de los ingresos anuales o hasta 35 millones de euros (aprox. 36 millones de dólares), la cifra que sea mayor
Resumen de la EU AI Act
- Regula la IA dividiendo el riesgo en 4 niveles
- Riesgo mínimo: ej. filtros de spam
- Riesgo limitado: ej. chatbots para atención al cliente
- Alto riesgo: ej. sistemas de apoyo a decisiones médicas
- Riesgo inaceptable: IA con alta probabilidad de causar daño físico o mental, o discriminación contra las personas
- La IA designada como de riesgo inaceptable queda totalmente prohibida para su uso
- Ejemplos representativos
- Puntuación social: IA que genera perfiles de riesgo a partir del comportamiento de una persona
- Manipulación subliminal: IA que manipula decisiones de las personas de forma encubierta o engañosa
- Explotación de grupos vulnerables: IA que se aprovecha de la edad, discapacidad o situación económica
- Predicción criminal basada en la apariencia: IA que predice la probabilidad de cometer delitos con base en la apariencia de una persona
- Análisis de rasgos basado en biometría: IA que infiere características personales como la orientación sexual
- Recolección en tiempo real de datos biométricos en espacios públicos: IA para recopilar datos biométricos en tiempo real con fines de aplicación de la ley
- IA de inferencia emocional: IA que analiza las emociones de las personas en el trabajo o en la escuela
- Construcción de bases de datos de reconocimiento facial: IA que recopila imágenes en línea o de cámaras de seguridad para crear o ampliar bases de datos de reconocimiento facial
Compromiso previo
- Antes de la fecha límite del 2 de febrero, alrededor de 100 empresas firmaron el ‘EU AI Pact’ hacia septiembre de 2024, comprometiéndose a cumplir voluntariamente con las normas antes de la entrada en vigor plena de la AI Act
- Participaron Amazon, Google y OpenAI, entre otras, pero Meta, Apple y Mistral no lo firmaron
- En principio, incluso las empresas que no participaron en el Pact tienen prohibido usar IA de riesgo inaceptable
Posibles excepciones
- Se contemplan excepciones limitadas para que las autoridades encargadas de hacer cumplir la ley puedan usar información biométrica en situaciones específicas (ej. búsqueda de víctimas de secuestro, amenazas urgentes)
- Aun en esos casos, la norma establece que no se pueden tomar decisiones desfavorables para una persona basándose únicamente en el resultado de un solo sistema de IA
- La IA para detectar emociones en escuelas o lugares de trabajo también podría permitirse de forma limitada si existe una justificación válida, como fines médicos o de seguridad
- Se prevé que a inicios de 2025 se publiquen lineamientos adicionales, pero todavía no se han dado a conocer detalles concretos
Retos a futuro
- Se espera que las sanciones reales y la aplicación plena comiencen después de agosto
- En ese momento se definirán las “autoridades competentes” de cada país, y las multas y medidas de ejecución entrarían en vigor
- Puede haber solapamiento con otras regulaciones (GDPR, NIS2, DORA, etc.), lo que podría generar confusión para las empresas
- Será necesario cuidar que las obligaciones de reporte o las formas de gestión de datos exigidas por varias normas al mismo tiempo no entren en conflicto
- Las empresas necesitarán prepararse de forma sistemática tomando como referencia los estándares, lineamientos y códigos de conducta que se publiquen más adelante
2 comentarios
Parece que últimamente he visto muchos artículos que dicen que las regulaciones frenan el crecimiento de la UE, y otra vez da la impresión de que primero aparecen las regulaciones sin que se vea un resultado claro.
Quizás este nivel sí amerite ser limitado por ley.
Creo que contrasta bastante con esta noticia.
Últimamente siento que hay mucho que pensar sobre esto.