- En general, está muy extendida la idea de que el valor económico de la IA se generará mediante la automatización de la investigación y desarrollo (I+D)
- Dario Amodei sostiene que la IA tendrá un impacto positivo en el I+D de biología, neurociencia y economía
- Demis Hassabis explica que la IA contribuirá a la sociedad a través del I+D, por ejemplo curando todas las enfermedades y resolviendo los problemas energéticos
- Sam Altman mencionó que la IA puede influir en todas las industrias, como los semiconductores, pero que su mayor impacto estará en el progreso científico
- Aunque el I+D contribuye al crecimiento económico de largo plazo, su aporte suele sobreestimarse
- Según la Oficina de Estadísticas Laborales de EE. UU. (BLS), el gasto privado en I+D representó apenas 0.2% anual del crecimiento de la productividad total de los factores (TFP) entre 1988 y 2022
- El gasto público en I+D representa cerca del 25% del gasto total en I+D, y la contribución del I+D al crecimiento total de la TFP es de alrededor de 0.4% anual
- Solo alrededor del 20% del crecimiento de la productividad laboral proviene del I+D; el resto se debe a la acumulación de capital, mejoras de gestión, efectos de aprendizaje, etc.
- La mayor parte del trabajo de I+D requiere capacidades complejas, no solo razonamiento lógico simple
- Ej.: agencia, capacidad multimodal, consistencia a largo plazo, etc.
- Si la IA alcanzara un nivel suficiente para automatizar por completo el trabajo de los investigadores, eso implicaría que también podría automatizar la mayoría de los demás sectores económicos → posibilidad de crear un valor económico aún mayor
El principal valor económico de la IA provendrá de la automatización amplia del trabajo
- Dos afirmaciones sobre el valor económico de la IA
- ✅ La automatización del I+D puede elevar la tasa de crecimiento económico anual en varios puntos porcentuales o más
- Si una tecnología pudiera automatizar por completo el I+D, podría generar un valor económico considerable
- Hay una alta probabilidad de que contribuya de forma significativa al crecimiento económico
- ❌ El mayor valor económico de la IA provendrá de la automatización del I+D
- El I+D es valioso, pero no será el núcleo del motor de crecimiento económico impulsado por la IA
- Incluso después de que la IA supere el desempeño humano, es poco probable que la automatización del I+D sea el factor más importante de creación de valor económico
- Medición del valor económico real del I+D
- Según datos de la Oficina de Estadísticas Laborales de EE. UU. (BLS):
- Crecimiento de la productividad total de los factores (TFP) entre 1988 y 2022: 0.8% anual
- Contribución del I+D privado: 0.2% anual → alrededor del 25% del crecimiento total de la TFP
- Crecimiento de la productividad laboral: 1.9% anual → la contribución del I+D es de apenas alrededor del 20%
- El gasto público en I+D representa cerca del 25% del gasto total en I+D
- Los efectos externos del I+D público y del I+D privado se compensan entre sí
- Como resultado, la contribución total del I+D se ubica en torno a 0.4% anual
- Relación entre acumulación de capital y crecimiento de la productividad
- La acumulación de capital representa alrededor del 50% del crecimiento de la productividad laboral
- El crecimiento restante proviene de mejoras de gestión, efectos de aprendizaje, difusión del conocimiento, etc.
- En la economía de EE. UU., la proporción entre acumulación de capital e inversión en I+D es la siguiente:
- Inversión anual en capital: 5 billones de dólares
- Inversión anual privada en I+D: 1 billón de dólares
- La inversión en capital es aproximadamente 5 veces mayor que la inversión en I+D
- La elasticidad del producto del trabajo (0.6) es unas 5 veces mayor que la elasticidad del producto del I+D
- La automatización del trabajo tiene el potencial de aportar más a la economía
- Automatizar el rubro de mayor costo en la economía actual (el trabajo) puede maximizar el valor económico
- La producción excedente generada por la automatización laboral puede reinvertirse en capital y permitir crecimiento adicional
- También existe el argumento de que el efecto de crecimiento del I+D ha sido subestimado
- Puede que no se hayan reflejado los efectos externos del I+D o las fricciones por investigación duplicada
- Sin embargo, según Bloom et al. (2020):
- La elasticidad del producto con respecto a la inversión en I+D es 0.3, similar a la del capital y apenas la mitad de la del trabajo
- En conclusión, el crecimiento económico actual proviene principalmente de factores distintos al I+D
Solo con la automatización del I+D en IA sería difícil acelerar drásticamente el avance de la propia IA
- Puede que el valor económico del I+D en IA no sea tan grande como se espera, pero si la IA automatiza su propio I+D, podría tener efectos importantes
- Si la IA pudiera automatizar su propio proceso de I+D de software, podría surgir una singularidad solo de software (software-only singularity)
- Con recursos computacionales fijos, los investigadores de IA podrían mejorar por sí mismos los algoritmos y, a través de ello, crear más investigadores de IA para impulsar avances adicionales en software
- La variable clave es qué tan rápido aumenta el costo de encontrar ideas
- Es esencial asumir que con solo esfuerzo investigador se pueden lograr muchos resultados en I+D de software, pero es muy probable que esto no sea cierto
- Un modelo más realista es aquel donde los resultados de investigación surgen de la complementariedad entre esfuerzo cognitivo + datos
- En la actualidad, la IA está aumentando la capacidad de cómputo experimental y la velocidad del avance del software a un ritmo rápido de alrededor de 3 a 4 veces por año
- El avance del software se está logrando mediante datos basados en experimentación → los datos podrían ser un complemento importante del esfuerzo investigador
- Si ambos insumos (esfuerzo cognitivo + datos) son complementarios, los recursos computacionales podrían convertirse en un cuello de botella
- Al final, podría ser necesario trabajo físico para asegurar y producir más GPU
- Eso implica que la IA tendría que desplegarse ampliamente en la cadena de suministro de semiconductores y en toda la economía
- La sostenibilidad de una singularidad solo de software depende de cuán fuerte sea esa complementariedad
- En otras industrias, la complementariedad suele ser fuerte → es probable que también lo sea en el I+D de IA
- Por ejemplo, en el estudio de Oberfield y Raval (2014), la elasticidad de sustitución entre capital y trabajo en la manufactura de EE. UU. es 0.7
- Esto sugiere que una singularidad solo de software probablemente terminaría en una mejora de eficiencia inferior a 1x
- Hasta ahora, ni la automatización de la programación ni la automatización del equipamiento de investigación han acelerado drásticamente el progreso científico
- Desarrollo de bibliotecas especializadas → automatización del trabajo de programación
- Aceleración del código mediante herramientas LLM → efecto solo parcial
- Automatización de equipos experimentales físicos → solo mejoras graduales, sin una aceleración científica brusca
La automatización total del I+D requiere capacidades muy amplias
- A simple vista, el trabajo de los científicos puede parecer centrado en tareas de razonamiento abstracto como generación de ideas, formulación de hipótesis, análisis de datos, programación y razonamiento matemático
- Por eso surge la expectativa de que, si aparecen modelos capaces de razonamiento abstracto, el trabajo de investigación podría automatizarse rápidamente
- Pero en la práctica, el trabajo de los investigadores exige capacidades mucho más complejas que el simple razonamiento
- Ejemplos de tareas de los científicos médicos
- Manipulación de sustancias tóxicas, evaluación de efectos de medicamentos, diseño y ejecución de estudios de enfermedades, análisis de muestras celulares, etc., requieren no solo razonamiento sino habilidades complejas y uso de equipo especializado
- Estandarización de dosis de fármacos, instrucción sobre procedimientos médicos y experimentales, redacción de artículos, solicitud de subvenciones de investigación, etc., tienen una probabilidad relativamente mayor de automatización basada en razonamiento
- Entre las cinco tareas principales de un científico médico, solo 1 podría automatizarse únicamente con razonamiento
- De un total de 14 tareas, se considera que solo 6 podrían automatizarse únicamente con razonamiento abstracto
- El núcleo del trabajo de investigación no es el razonamiento simple, sino una combinación de capacidades complejas como las siguientes:
- Manipulación de equipo técnico → capacidad de usar equipo experimental complejo
- Trabajo en equipo → capacidad de colaborar y coordinarse con equipos humanos de investigación
- Capacidad de ejecución a largo plazo → llevar adelante proyectos complejos durante periodos prolongados
- Manipulación del entorno físico → capacidad de intervención física en experimentos y prácticas
- Tomará bastante tiempo que la IA adquiera todas las habilidades complejas requeridas para el trabajo de investigación
- Por ello, es más probable que la automatización del trabajo general ocurra antes que la automatización del trabajo de investigación
- La idea de que la IA logrará primero avances científicos y luego se expandirá a otras industrias es poco realista
- El escenario más realista es que la IA logre primero una automatización laboral amplia y que después se aceleren la ciencia y la tecnología
- Incluso si la IA acelera el progreso científico, es más probable que lo haga no reemplazando a los investigadores, sino mediante la automatización de la construcción de infraestructura de investigación
- Dado que la automatización del I+D no representa una gran parte del crecimiento económico actual, es probable que la IA impulse el crecimiento económico mediante la automatización de tareas no relacionadas con I+D
Es probable que el salto de la IA sea amplio y muy visible
- Incluso antes de que el impacto económico y tecnológico de la IA se vuelva plenamente tangible, es probable que la automatización con IA aparezca de forma amplia y muy visible
- Amplio (Diffuse) → la automatización con IA no se limitará a ciertos empleos de I+D, sino que afectará ampliamente a toda la economía
- Visible (Salient) → el impacto de la IA será lo bastante grande como para que la mayoría de las personas lo perciba claramente, y podría provocar una gran disrupción en el mercado laboral
-
El principal efecto económico de la IA no vendrá de la automatización del I+D, sino de la automatización amplia
- Es poco probable que el efecto transformador de la IA sobre el mundo provenga de la automatización explícita del I+D
- Más bien, la automatización amplia del trabajo será el principal motor del desarrollo económico y tecnológico
-
Escenario realista del salto de la IA
- 1. Expansión del rango de tareas de la IA
- La IA irá ampliando gradualmente el rango de tareas que puede realizar
- Es probable que este proceso esté impulsado principalmente por la expansión de la infraestructura computacional
- 2. Avance de la automatización laboral amplia en toda la economía
- La IA automatizará una variedad cada vez mayor de tareas laborales
- Como resultado, esto conducirá a una aceleración del crecimiento económico
- 3. Grandes cambios en el mercado laboral
- Antes incluso de que la IA produzca avances económicos y tecnológicos, ya habrá una ola de automatización laboral
- En este proceso, el mercado laboral se reconfigurará de forma fundamental y cambiará la percepción pública de la IA
- 4. La automatización amplia de tareas no relacionadas con I+D actuará como principal motor del crecimiento
- Incluso si la IA acelera el crecimiento económico y tecnológico, eso ocurrirá mediante la automatización de tareas no relacionadas con I+D
- Es probable que la automatización del I+D tenga un peso relativamente menor en el crecimiento
-
Escenario de “explosión de automatización general”
- Es poco probable que el salto de la IA adopte la forma de “genios produciendo resultados explosivos de I+D en laboratorios”
- En cambio, es más probable que el salto de la IA tome la forma de una explosión de automatización amplia
- Es decir, más que los logros en un campo específico, el principal motor del crecimiento será el alcance y la escala generales de la automatización de la IA
Implicaciones clave
- En el futuro cercano, es muy probable que para los laboratorios de IA sea más rentable centrarse en la automatización de tareas generales
- Por ejemplo: navegar por internet, operar software comercial, realizar tareas generales de oficina, etc.
- La automatización de tareas generales probablemente tenga mayor potencial de creación de valor económico que el desarrollo de modelos de razonamiento avanzado para asistencia en investigación biológica y médica
- Por eso, al evaluar el desempeño de la IA, puede ser más importante seguir su capacidad para realizar tareas generales que sus resultados en I+D
- Es muy probable que la percepción pública sobre la IA cambie de forma importante antes de que la IA tenga un impacto transformador en el mundo
- Antes de que aparezcan resultados como crecimiento económico impulsado por IA o extensión de la vida humana, es muy probable que ya se produzca una gran disrupción causada por la automatización laboral
- Por eso, es riesgoso asumir que la percepción pública actual sobre la IA se mantendrá a largo plazo
- Es poco probable que la IA reemplace de una sola vez todas las tareas humanas → se espera una automatización gradual
- Es muy probable que la IA automatice gradualmente el trabajo humano a lo largo de varios años
- Un cambio gradual es más realista que un escenario en el que la automatización del I+D en IA provoque una explosión repentina de superinteligencia
- Incluso si la IA supera a los humanos en ciertas tareas, es probable que en otras tareas complementarias los humanos sigan teniendo ventaja
- Con el tiempo, la IA terminará superando a los humanos en la mayoría de las actividades económicas
- Sin embargo, es probable que esto ocurra después de una automatización gradual a lo largo de décadas
- La aceleración del crecimiento económico recibirá una contribución mayor de la automatización de tareas generales que de la automatización del I+D
2 comentarios
https://freederia.com/%ed%94%84%eb%a1%ac%ed%94%84%ed%8a%b8-%ea%b0%a4%e… Estoy probando la automatización de I+D. No será fácil, pero probablemente no sea un futuro tan lejano.
Opinión de Hacker News
Me pregunto si habrá alguien a quien el optimismo tecnológico realmente le resulte deprimente. Además de las razones relacionadas con que la tecnología reemplace a los humanos, también me deprime no poder entusiasmarme con un bombo exagerado cuya viabilidad parece baja
Sorprende que, entre casi 300 comentarios hasta ahora, nadie mencione la programación por restricciones (CP). CP es el hermano determinista de la IA probabilística basada en datos
Este artículo pierde toda credibilidad aquí
Si no has leído el clásico de 2015 sobre el despliegue tecnológico, vale la pena leerlo
El argumento típico de Silicon Valley es que la I+D es "compleja" y todo lo demás es "simple"
Están debatiendo si la I+D o la automatización general obtendrán más beneficios. Me pregunto qué sentido tiene esa discusión
Es como si la revolución industrial y la revolución agrícola volvieran a ocurrir. La automatización generalizada del trabajo traerá una mejora del capital, no una mejora social
Es una cuestión del valor relativo de los factores de producción. La cuestión es si la IA aumentará o reducirá el valor relativo del trabajo humano frente a las máquinas, las materias primas y la tierra
Estoy totalmente de acuerdo con este artículo; hay muchas oportunidades que antes no tenían sentido en términos de costo/recompensa
Los optimistas tecnológicos tienen que responder a las preguntas que están en la mente de la clase media y de la gente pobre