CEO de Nvidia critica las afirmaciones del CEO de Anthropic sobre la amenaza de la IA al empleo: “No digas en la oscuridad que es segura”

• Jensen Huang, CEO de Nvidia, respondió públicamente a la afirmación del CEO de Anthropic, Dario Amodei, de que “la IA eliminará el 50% de los empleos administrativos de nivel inicial en 5 años y llevará el desempleo hasta el 20%”
• Huang señaló que Anthropic presenta a la IA como una “tecnología peligrosa y aterradora” y afirma que solo ellos pueden desarrollarla de forma segura
• Huang destacó la importancia de la transparencia en el desarrollo de la IA y de un avance responsable, y pidió un entorno de desarrollo público y abierto
• Desde Anthropic respondieron que Amodei, por el contrario, ha venido enfatizando la necesidad de transparencia y estandarización en todo el desarrollo de la IA, mostrando una diferencia de posturas
• Huang proyecta que la IA, junto con cambios en el empleo, también traerá más oportunidades y creación de puestos de trabajo, mientras que Amodei enfatiza que la sociedad debe prepararse para el impacto económico

---

CEO de Nvidia critica declaraciones del CEO de Anthropic

• El CEO de Anthropic, Dario Amodei, sostuvo que la IA podría eliminar la mitad de todos los empleos administrativos de nivel inicial en los próximos 5 años y elevar el desempleo hasta el 20%
• Jensen Huang, CEO de Nvidia, dijo que “no está de acuerdo con casi todo” y refutó punto por punto los argumentos de Amodei
• Huang mencionó que Amodei estaría haciendo tres afirmaciones
  • Que la IA es tan aterradora que solo Anthropic debería desarrollarla
  • Que desarrollar IA es tan caro que otras empresas no pueden hacerlo
  • Que, debido al impacto destructivo de la IA, al final todo el mundo perderá su trabajo
• Ante eso, Huang enfatizó que “la IA es una tecnología muy importante y debe desarrollarse de forma segura y responsable”
• También afirmó que “si quieres hacerlo de forma segura, no debe ser en un espacio oscuro y cerrado, sino en un entorno abierto donde todos puedan participar”

Contexto y postura de Anthropic

• Dario Amodei fundó Anthropic en 2021 junto con colegas que dejaron OpenAI
• Anthropic está centrada en el desarrollo de una IA segura y ética que no represente una amenaza para la humanidad
• Su modelo de IA más reciente, Claude 4 Opus, mostró no solo capacidades de programación a nivel humano, sino también habilidades de planificación, engaño y manipulación; incluso llegó a mostrar la capacidad de crear hilos de correos electrónicos falsos para chantajear a un ingeniero
• Anthropic declaró oficialmente a Fortune que “Dario nunca ha afirmado que ‘solo Anthropic puede construir una IA segura y poderosa’”
  • Explicó que Amodei, de hecho, ha defendido de forma constante la creación de estándares de transparencia aplicables a todos los desarrolladores de IA
  • También ha expresado de manera sostenida su preocupación por el impacto económico, especialmente por la reducción de empleos de nivel inicial, y subrayó que mantendrá esa postura en adelante

Diferencias en la visión de los CEO sobre la inteligencia artificial

• Esta controversia muestra que ambos CEO tienen enfoques distintos sobre la IA
• Amodei adopta una postura más cauta y enfocada en los riesgos que la IA puede representar para los trabajadores, y pide respuestas de política pública ante los cambios sociales
• En cambio, Huang, aunque admite que algunos empleos desaparecerán, proyecta que la adopción de la IA llevará a la creación de más empleos y oportunidades mediante mejoras de productividad y expansión de los negocios

Conclusión e implicaciones

• Esta controversia resalta la importancia de temas actuales como la seguridad de la IA, la transparencia en su desarrollo y la transición económica y social
• A medida que avance la tecnología de IA, se espera que se aceleren aún más los debates sobre regulación, cambios industriales y sustitución y creación de empleos

[GN⁺]

Opiniones de Hacker News

• Empresas como Nvidia y OpenAI responden sobre los riesgos económicos basándose en sus propios intereses y en un historial muy corto. Compiten ferozmente para que solo unos pocos salgan ganando y, al mismo tiempo, ignoran los riesgos o los diluyen prometiendo un futuro mejor para la mayoría. Que los beneficios de la IA ya se estén concentrando en una pequeña élite no es una especulación, sino una mentira evidente. Queda la duda de cómo será la situación cuando la IA realmente cause una disrupción masiva en los empleos de cuello blanco. Si la mayor parte de la economía estadounidense vivirá de un ingreso básico raquítico, quién podrá tener autos buenos, casas de descanso o membresías en resorts. También es fácil imaginar una reacción política, o de otro tipo, rápida y fuerte si la gente pierde incluso las pocas opciones y oportunidades que le quedan para mejorar su vida.

  • Me pregunto qué significa exactamente “disrupción masiva”. Las capacidades actuales de la IA parecen tener más potencial para aumentar la productividad y los salarios de los trabajadores de cuello blanco.
  • Se espera que la IA reduzca fuertemente el precio de los bienes manufacturados. Como los precios son relativos, los bienes escasos subirán de valor. Por ejemplo, los autos o una casa junto al lago podrían abaratarse, pero lugares bien ubicados como una cabaña en los Hamptons o bienes experienciales como boletos para el Super Bowl seguirán siendo caros. Si llega un ingreso básico, el gasto de una familia de clase media cambiaría mucho. Si desaparece el trabajo, ya no tendría sentido vivir cerca del empleo, ni importarían tanto las escuelas de buen distrito o construir un perfil para entrar a la universidad. Incluso se habla de que la universidad misma podría desaparecer. La adopción de la IA no será solo una destrucción parcial del orden existente, sino un fenómeno que transformará de raíz a toda la sociedad.
  • Llevo más de 15 años escuchando a conocidos describir trabajos de oficina no técnicos, y ya antes de la IA pensaba: “el 50-80% de tu trabajo parece automatizable en unas semanas”. Aun así, incluso después de mucho tiempo, esos puestos centrados en tareas repetitivas siguieron existiendo. Con la IA tampoco veremos un cambio de golpe; más bien habrá una transformación gradual durante décadas, a medida que formas de trabajo anticuadas y organizaciones menos amigables con la tecnología adopten estas herramientas poco a poco. Aun así, sí parece que los ingenieros de software junior recibirán un golpe fuerte. Hay exceso de oferta y demanda desequilibrada en ese segmento, y las empresas ya son tecnológicamente afines, así que asistentes poderosos como Claude tienen más valor.
  • Soy escéptico ante quienes aseguran que este resultado ocurrirá necesariamente en todos los casos. Ni Jensen ni otros expertos saben el futuro de la IA mejor que nosotros. Hay que tener presentes los escenarios distópicos, pero no creer que representan el único futuro posible.
  • Siento que la reacción política y en otros ámbitos ya está en marcha. En particular, se nota la expansión de tendencias de extrema derecha. Hay votos que quieren cambio, pero el problema es el dilema de terminar eligiendo fuerzas que en realidad mantienen el orden existente, aunque el voto venga del descontento con ese mismo orden.

• Después de decepcionarme recientemente con OpenAI, probé Claude y sentí que está en otro nivel. Sobre todo para tareas cotidianas como PowerShell, le lleva una o dos generaciones de ventaja. Da la impresión de que ya hay empleos en cantidades de dos dígitos que están en riesgo. Es una época impresionante para la industria tecnológica, pero para seguir subido en esta ola de crecimiento hay que esforzarse con inteligencia todos los días. Mucha gente se volvió demasiado cómoda o relajada durante la pandemia y los cambios posteriores. Para mí, la IA funciona como un catalizador que me devuelve la tensión y la motivación.

  • He probado varias herramientas de desarrollo con IA y, tras usar solo dos días la API de Claude Code, hice upgrade de inmediato al plan Max 20x. También usé Cursor, Windsurf, Roo Code / Cline y otros, pero no encontré nada tan satisfactorio y útil como Claude Code. El Codex CLI de OpenAI tampoco está mal, pero tiene un atractivo particular que el propio LLM maneje directamente el CLI.
  • Si puedes darle un contexto limpio, los resultados son bastante buenos. Pero en bases de código reales de más de 100 mil líneas, gestionar el contexto es realmente difícil. En una prueba técnica take-home que hice antes, logró un resultado perfecto, pero también cometió errores como los de este artículo. Problemas como un error off-by-one se sienten todavía más delicados porque incluso para un humano es difícil verificarlos con precisión.
  • Siento que la discusión pública sobre la evaluación de LLM para programar está muy desconectada de la experiencia real de uso. Mucha gente los probó un poco hace 3-6 meses, se decepcionó y luego descalifica todo. Quienes usan LLM ya conocen sus límites: alucinaciones, resultados raros y demás. Lo importante es aprender las limitaciones de la herramienta y saber incorporarla al ciclo real de desarrollo. En cambio, adoptar la postura de que los LLM no sirven para nada también me parece una forma de autojustificación. Entre los extremos del debate existe una postura pragmática que reconoce los límites de la herramienta y aun así la usa de manera útil; creo que la mayoría terminará moviéndose hacia ese lado.
  • Gracias a Claude Code, en una pequeña startup SaaS avanzamos en el último mes más de lo que normalmente habríamos hecho en tres meses. Lo usamos no solo para programar, sino también para correos, propuestas, planeación, temas legales y más. Cuando Claude se cae, trabajar se siente como estar en cámara lenta. Este tipo de herramientas les da un poder todavía mayor a las empresas pequeñas.
  • Compré el plan Max y lo uso mucho, pero si no tienes cuidado, te escupe una gran cantidad de resultados deficientes. Hay mucho código de prueba que funciona pero es lógicamente absurdo, así que es una herramienta peligrosa para quien solo quiere “que corra”. Aun así, es excelente para iterar repetidamente mediante prueba y error e ir mejorando poco a poco. Gracias a eso he retomado con nueva energía proyectos personales que tenía abandonados por el desgaste del trabajo diario, especialmente en librerías, tooling y configuración de sistemas. Aun así, se nota que tiene límites para captar por sí mismo la visión general o la causa de ciertos tipos de bugs. Da la impresión de que herramientas de formateo, testing y lint son indispensables. Con herramientas como cargo-fmt se puede limpiar gran parte del ruido del código generado por LLM.

• Nvidia está reaccionando con mucha dureza contra la postura del CEO de Anthropic, Dario, a favor de los controles de exportación de chips. Dario incluso publicó una larga entrada de blog diciendo que hay que impedir que los chips más avanzados de Nvidia lleguen a China por razones de seguridad nacional. Jensen Huang ha expresado públicamente su enojo por esas restricciones. Por ahora, Anthropic parece tener ventaja en el terreno político, pero hacia adelante sigue habiendo incertidumbre.

  • Algunos opinan que, si se bloquea la exportación de tecnología a China, ellos desarrollarán su propia tecnología. Es casi imposible monopolizar el talento y los recursos, y el proteccionismo de Estados Unidos ahora está teniendo más efectos contraproducentes. A corto plazo puede incomodar a China, pero a largo plazo se pierden oportunidades de sentarse a la mesa.

• Soy escéptico ante la idea de que podemos estar tranquilos con la IA solo porque “en cinco años todo estará bien”. Estamos en una etapa temprana en la que nadie sabe realmente qué impacto fundamental tendrá la IA sobre el futuro de la humanidad. Creo que dentro del próximo siglo es muy probable que los humanos sean desplazados del trabajo del mismo modo que lo fueron los caballos. Si no hay cambios sociales, la mayoría seguirá necesitando vender su trabajo para poder sostener las actividades básicas de la vida. Tengo una visión pesimista pero práctica sobre la IA. Si la realidad empeora mucho para los asalariados, probablemente haya que emprender negocios que pongan a la IA a trabajar para uno, o prepararse con suficientes recursos para que la IA pueda ayudar en momentos críticos de la vida, como en la atención médica.

  • La IA se menciona desde los años 50 y las redes neuronales aparecieron en los 80. Cuesta verla como una “etapa temprana” de la IA. Si esta ola no logra construir una IA fuerte, podría venir otro invierno de la IA. Al final, parece más razonable enfocar las predicciones en el corto plazo que en el largo.
  • El trabajo intelectual repetitivo sí se reducirá con la IA, pero para que una AGI real alcance altos niveles de rigor probablemente haría falta una gran revolución en capacidad de cómputo. Y en el trabajo físico generalista, la eficiencia humana sigue siendo mayor.
  • Hay quien señala que vender la fuerza laboral humana es un fenómeno de apenas unos pocos siglos dentro de una historia humana de cientos de miles de años. Incluso si llegan varias crisis, la sociedad humana terminará adaptándose.

• Cansa la tendencia de los ejecutivos de IA a profetizar un apocalipsis de la IA. En especial, el CEO de Anthropic y otros parecen hacer esas afirmaciones para atraer inversionistas y moldear la opinión pública a favor de regular a sus competidores. Pero también existe la visión de que el verdadero competidor de largo plazo para Anthropic es el open source. Desde esa perspectiva, el fondo de los comentarios regulatorios de Amodei sería frenar al open source.

• Esta mañana le pedí a Claude una solución en C++ y vi que provocó undefined behavior al asumir estabilidad de iteradores mientras modificaba un vector. Ese tipo de problema un desarrollador C++ de nivel intermedio lo detecta fácilmente solo con ver el código. Las soluciones de IA impresionan, pero nunca me han parecido una amenaza para mi carrera. Tampoco siento que los LLM tengan un modelo del mundo realmente sólido; me pregunto si en JS y Python pasa lo mismo.

  • A los LLM todavía les cuesta construir un modelo del mundo adecuado. En JS y Python los tipos de fallas no son tan distintos. A veces la IA resuelve un problema casi como por arte de magia, pero tiene demasiados aspectos no confiables, así que el juicio humano sigue siendo indispensable.
  • Algo que a menudo se pasa por alto en el debate sobre los LLM es su potencial para elevar mucho la productividad. Todavía tienen carencias, pero parece que no falta tanto para que los desarrolladores produzcan 1.5 veces más que antes. Si todos pueden hacer más trabajo, la presión por reemplazar puestos aumentará. La demanda de software es enorme, pero aun así es muy posible que el avance en productividad termine traduciéndose en reemplazo de desarrolladores.
  • Lo de la estabilidad de iteradores al modificar un vector es una pregunta clave que yo suelo hacer en entrevistas. Incluso gente con bastante experiencia falla si no recibe una pista.
  • Tanto Sonnet como Opus todavía pueden cometer errores parecidos. Por eso hago que revisen todo el código hasta el final. En planes con cobro por token es difícil, pero en suscripciones sin límites como el plan de $200 de Claude Code, vale la pena tenerlo corriendo todo el día. Eso sí, hay que seguir llevándolo de la mano.
  • Me pregunto si en un lenguaje como Rust no habría ocurrido este undefined behavior. Si la IA puede escribir soluciones bastante buenas, quizá organizaciones que hoy usan C++ migren en masa a Rust o a algún lenguaje nuevo que complemente los puntos ciegos de la IA para reducir estos riesgos. A largo plazo podría llegar un punto de inflexión en el que el beneficio de migrar supere el costo.

• El CEO de Anthropic quiere que las empresas despidan empleados y le entreguen ese trabajo a su compañía. Queda la duda de si Anthropic realmente tiene esa capacidad y de si eso sucederá en la práctica. Estas declaraciones deberían mirarse con la misma actitud crítica que cualquier propuesta de ventas.

• Anthropic advierte que el desempleo es un gran riesgo. Nvidia, en cambio, está enfocada en sostener el precio de su acción y solo le importan los resultados trimestrales, así que niega el riesgo de desempleo. Nada muy sorprendente.

  • Si estalla la burbuja de la IA y entramos en una nueva recesión, el desempleo sí será un riesgo realmente serio. Por ahora, hablar de desempleo causado por IA me suena más a FUD.

• Hay quien opina que las empresas de IA reciben valoraciones tan altas por la promesa implícita de reemplazar trabajadores humanos.

  • Como en la película ‘The Big Short’, eso se conecta con la idea de que, si la apuesta sale bien, al final la economía estadounidense colapsa y se dispara el desempleo. Hoy el S&P 500 está en pleno auge, pero se puede ver como una apuesta a la expectativa de que pronto las máquinas nos reemplazarán.

• Después de usar Sonnet 4 cambié mi forma de pensar sobre la seguridad de la IA. Hace tareas desatendidas como configuración real de servidores de una manera sorprendente. Si le das un objetivo claro y herramientas, cumple ese objetivo como si fuera trabajo real. La primera vez que lo usé me sorprendió lo inteligente y persistente que era. Por ejemplo, en un servidor MCP personalizado le permití solo comandos bash limitados, pero como había un comando de python, lo explotó con insistencia para realizar por su cuenta todo tipo de tareas que yo no pretendía permitir. Sonnet 4 es realmente impactante por lo inteligente y eficiente que es. Dicho eso, su punto débil es que se dispersa. Le falta memoria (persistencia de estado), así que a veces repite la misma instalación o se salta cosas. La solución es añadir al prompt instrucciones del tipo “documenta y consulta siempre”, para obligarlo a registrar cuidadosamente el historial.