Meta disuelve su equipo de IA responsable

• Meta disolvió su equipo de inteligencia artificial responsable (RAI) y reasignó a sus integrantes a otros equipos de productos de IA generativa y al área de infraestructura de IA.
• El equipo de RAI venía desempeñando desde 2019 la función de identificar problemas en los métodos de entrenamiento de IA, además de supervisar que los modelos se entrenaran con información diversa.
• Este equipo ya había pasado por una reestructuración a inicios de este año, y en ese momento Business Insider publicó un artículo señalando que habían despedido a casi todos y que solo quedó el "cascarón" del equipo.
• Los sistemas automatizados de Meta provocaron problemas como un arresto erróneo causado por un fallo de traducción en Facebook, la generación de imágenes sesgadas al crear stickers de IA en WhatsApp y que el algoritmo de Instagram ayudara a encontrar material de abuso sexual infantil.

Tendencias globales de regulación de la IA

• Este movimiento de Meta ocurre mientras gobiernos de todo el mundo intentan establecer regulaciones para el desarrollo de la inteligencia artificial, incluyendo que el gobierno de Estados Unidos ordenó crear reglas de seguridad para la IA y firmó acuerdos con empresas del sector.
• La Unión Europea (UE) publicó principios sobre IA y sigue intentando aprobar una legislación sobre IA.

Opinión de GN⁺

• Lo más importante de este artículo es que Meta desmanteló el equipo dedicado al desarrollo responsable de IA y reubicó a sus integrantes en otras áreas.
• Este cambio ofrece un caso interesante sobre cómo las empresas gestionan la ética y la seguridad de la IA, en un contexto donde la importancia del uso responsable de esta tecnología aumenta junto con su rápido avance.
• Además, el artículo refleja la situación actual, en la que el debate sobre la regulación de la IA se intensifica a nivel global, por lo que resulta atractivo para quienes se interesan en la intersección entre tecnología y derecho.

[GN⁺]

Opiniones de Hacker News

• Meta es considerada la gran empresa de IA más ética por publicar abiertamente sus modelos de IA.
  • Hay quienes opinan que mantener los modelos de IA cerrados en nombre de la “ética” es poco ético, porque hace que la gente dependa más de decisiones arbitrarias de las grandes empresas.
• Todos los equipos de IA deberían considerar su responsabilidad ética, y concentrarla en un solo equipo es ineficiente.
  • Un “equipo de IA responsable” puede convertirse en un cuello de botella al revisar todo el trabajo de IA, o hacer que otros equipos se sientan libres de desarrollar IA de forma irresponsable.
• La seguridad en IA es un grupo que vive del trabajo ajeno, y es deseable que Meta lo elimine.
• Los equipos de ética tecnológica, en sus etapas iniciales, se enfocan más en la imagen que en la realidad.
  • Un pequeño grupo de personas que define la dirección central de la tecnología carga con la responsabilidad ética, y si actúa de forma irresponsable puede causar grandes daños.
• No hay casos concretos en los que el equipo de ética de Meta haya contribuido de forma positiva.
  • Hace falta revisar los resultados de Meta en los últimos años para evaluar qué tan efectivo ha sido en mantener la verdad.
• Cuando falta financiamiento y llega una crisis (como en OpenAI), lo mejor es cerrar los departamentos creados solo para la imagen.
• Como entrenar modelos de IA cuesta mucho, a medida que la tecnología avance habrá quienes intenten controlarla para beneficiarse, pero eso podría ser contraproducente a largo plazo.
• La comparación entre la seguridad en IA y los equipos legales o de seguridad no es válida.
  • Como nadie sabe qué significa realmente construir una IA segura, esos equipos solo pueden terminar ralentizando el progreso.
• La mejor manera de hacer que la IA sea responsable es volverla de código abierto.
  • Así se evita que una sola empresa tenga el control total, y los investigadores pueden entender mejor tanto sus posibles usos maliciosos como las buenas formas de usarla.
• La responsabilidad sobre la IA debería recaer en los usuarios, pero actualmente ninguna empresa les da autoridad para moldear el producto de manera responsable.
  • El marco legal ya aborda estas externalidades, y los intentos de las empresas por evadir su responsabilidad terminan creando sistemas más incompetentes e inútiles.