Yann LeCun: El verdadero escenario del fin es que los dueños del 1% de la IA se adueñen del poder para siempre

• Yann LeCun, científico jefe de IA en Meta, criticó las declaraciones sombrías de líderes de IA sobre los riesgos de la IA y afirmó que ellos podrían causar más daño.
• LeCun acusó a creadores de IA como Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Dario Amodei de Anthropic de usar la "generación de miedo" y el "lobby corporativo a gran escala" en beneficio propio.
• Sostiene que, si estos esfuerzos tienen éxito, unas cuantas empresas terminarán controlando la IA, y considera eso una "catástrofe".
• Las declaraciones de LeCun fueron una respuesta a una publicación del físico Max Tegmark, que sugería que LeCun no se estaba tomando con suficiente seriedad el apocalipsis de la IA.
• LeCun afirma que los riesgos reales e inminentes de la IA no son los riesgos hipotéticos que suelen destacarse, sino la explotación de trabajadores y el robo de datos que benefician a unos pocos actores.
• Descartó la idea de un "despegue abrupto", según la cual la humanidad sería destruida en el momento en que se active un sistema superinteligente.
• LeCun enfatizó la importancia de enfocarse en cómo se está desarrollando actualmente la IA y advirtió sobre el riesgo de que su desarrollo quede monopolizado por empresas privadas con fines de lucro.
• Defendió a los desarrolladores de código abierto y criticó, en particular, la falta de transparencia en el desarrollo de IA por parte de las grandes tecnológicas.
• Expresó preocupación porque los reguladores pueden dejarse llevar fácilmente por debates sensacionalistas sobre la IA, lo que podría derivar en una falta de supervisión sobre el proceso real de desarrollo.

[GN⁺]

Opiniones de Hacker News

• Discusión del artículo sobre la postura de Yann LeCun respecto al mal uso de la tecnología de IA
• Expresión de preocupación por los intentos de captura regulatoria por parte de quienes tienen poder usando "X-Risk" y afirmaciones sobre la extinción repentina de la humanidad
• Críticas al impulso por cerrar la IA mediante requisitos de licencias y reportes
• Expresión de apoyo a las medidas para controlar la investigación en IA, citando la necesidad de cautela en este campo
• Discusión sobre el desarrollo y despliegue de nuevas tecnologías, con el argumento de que los riesgos de una tecnología pueden permanecer ocultos hasta que se despliegue de manera generalizada
• Críticas a etiquetar a los principales investigadores de IA como "AI Godfather", con el argumento de que eso induce a confusión y es innecesario
• Discusión sobre la posibilidad de mal uso de la IA, con el argumento de que prohibir los modelos de código abierto podría hacer que no sepamos cómo responder a esos usos indebidos
• Opiniones en desacuerdo con la postura de Yann LeCun, argumentando que no está respondiendo seriamente a los riesgos de la IA
• Discusión sobre la posibilidad de usar IA para selección de acciones y predicción, con el argumento de que esa IA podría absorber tanta riqueza como para, en la práctica, adueñarse de la sociedad
• Afirmación de que ya es demasiado tarde para monopolizar los modelos de lenguaje grandes, señalando que la tecnología ya es conocida y los costos están bajando
• Especulación sobre el futuro de los negocios en una era de abundancia, con el argumento de que es probable que se vuelvan todavía más monopolísticos