1 puntos por GN⁺ 2024-09-28 | 1 comentarios | Compartir por WhatsApp
  • Según un reporte del NYT, el plan de OpenAI para expandir explosivamente la infraestructura de IA fue percibido por socios manufactureros clave como TSMC como de una escala poco realista
  • Se dice que Altman planteó una inversión de 7 billones de dólares a lo largo de varios años, con 36 fábricas de semiconductores y la construcción de centros de datos, pero dentro de TSMC lo habrían visto como algo absurdo
  • Las declaraciones recientes de OpenAI redujeron la escala de la discusión al nivel de cientos de miles de millones de dólares, y sigue sin estar claro quién invertiría realmente y qué recibiría a cambio
  • Se informa que en Corea del Sur las conversaciones con Samsung y SK Hynix se detuvieron por preocupaciones de seguridad nacional relacionadas con los vínculos de EAU y China
  • Se presenta a OpenAI como una empresa con ingresos de alrededor de 3 mil millones de dólares frente a gastos de unos 7 mil millones de dólares, mientras que los casos de Copilot y Apple Intelligence alimentan el debate sobre la falta de una killer app para la IA

El intento de Altman de convencer a socios manufactureros en Asia

  • Sam Altman recorrió rápidamente Asia oriental el invierno pasado y se reunió con altos ejecutivos de empresas como TSMC, Samsung y SK Hynix
  • El objetivo era unir en un solo plan la capacidad manufacturera asiática necesaria para el avance de la IA, capital de Medio Oriente y a los reguladores de Estados Unidos
  • El NYT cita a 9 fuentes anónimas cercanas a las negociaciones de OpenAI

El plan de 7 billones de dólares que chocó con TSMC

  • Durante su visita a Taiwán, se dice que Altman habló con ejecutivos de TSMC sobre un plan de 7 billones de dólares a lo largo de varios años
  • El plan incluía 36 fábricas de semiconductores y la construcción de centros de datos para expandir la IA
  • Los ejecutivos de TSMC habrían considerado absurda la propuesta y, según una fuente del NYT, después llamaron a Altman “podcasting bro
  • También se informa que dentro de TSMC surgieron preocupaciones de que incluso ejecutar solo algunas de esas ideas podría ser muy riesgoso

Señales que coinciden con la reacción previa del presidente de TSMC

  • En la junta anual de accionistas de TSMC de 2024 también surgió una reacción escéptica hacia el plan de OpenAI
  • El recién elegido presidente Dr. C. C. Wei dijo sobre Sam Altman: “demasiado agresivo, demasiado agresivo para que yo lo crea”
  • Esta declaración se interpreta en la misma línea que el reporte del NYT de que la dirección de TSMC no confiaba en la gran visión de infraestructura de IA de Altman

Límites de escala de inversión y tiempo de ejecución

  • Las fuentes del NYT consideran que la escala de inversión asciende a varios billones de dólares, un nivel comparable a cerca de una cuarta parte de la producción anual de Estados Unidos
  • En declaraciones recientes de OpenAI, la escala de la discusión bajó a “cientos de miles de millones de dólares”
  • Para cumplir con el plan de expansión de capacidad de cómputo de OpenAI también se requerirían varios años de construcción
  • Sigue sin estar claro quién invertiría cuánto y qué obtendría a cambio

Conversaciones con empresas coreanas y la variable de EAU

  • Altman visitó Corea del Sur en un período similar y también sostuvo conversaciones con altos directivos de Samsung y SK Hynix
  • Según el NYT, esas conversaciones se detuvieron por preocupaciones de seguridad nacional debido a que países como EAU mantenían relaciones con China en ese momento
  • Después, el presidente Biden y el presidente de EAU, Sheikh Mohammed bin Zayed, se reunieron en la Casa Blanca e instruyeron a altos funcionarios a preparar un memorando sobre cooperación en IA
  • Los planes tecnológicos relacionados con EAU podrían cambiar, y también se mencionan rumores sobre grandes fábricas de TSMC y Samsung en EAU

Inversionistas y empresas que siguen en conversaciones

  • La incertidumbre en torno al ambicioso plan de OpenAI sigue siendo grande
  • Se menciona a MGX, firma tecnológica de inversión de Emiratos, como una empresa que sigue en conversaciones con OpenAI
  • También se menciona que grandes tecnológicas como Microsoft, Nvidia y Apple continúan dialogando con OpenAI

La estructura de costos de OpenAI y el debate sobre la demanda de IA

  • Se considera que el modelo actual de negocio de OpenAI no inspira una confianza sólida
  • Se estima que la empresa tiene ingresos anuales de alrededor de 3 mil millones de dólares, pero gastos anuales de unos 7 mil millones de dólares
  • La gran visión de Altman parte de la idea de que la IA se volverá como la electricidad
    • La lógica es que si la IA se vuelve más fácil de usar, más personas encontrarán usos mejores y más numerosos
  • Se considera que las grandes tecnológicas todavía no han encontrado una killer app para la IA
    • Microsoft Copilot es conocido por casos de errores y demoras
    • Apple anunció el iPhone 16 y 16 Pro junto con Apple Intelligence, pero las primeras funciones de IA no estarán disponibles en los nuevos dispositivos hasta el próximo mes

1 comentarios

 
GN⁺ 2024-09-28
Opiniones de Hacker News
  • Conviene leer el artículo original del NYT. Este texto no lo resumió correctamente
    https://web.archive.org/web/20240926063521/https://www.nytim...

    • Creo que el artículo original muestra mejor la complejidad y la realidad de la fabricación de chips. TSMC lo sabe bien, y eso contrasta con los planes tipo alunizaje que proponen personas que no entienden lo suficiente los matices de la cadena de suministro de semiconductores
  • Volví a subir el artículo original
    Behind OpenAI's plan to make A.I. flow like electricity - https://news.ycombinator.com/item?id=41663562
    Quien lo envió debería seguir la guía: “Por favor envía la fuente original. Si un artículo informa sobre algo encontrado en otro sitio, envía ese sitio original” - https://news.ycombinator.com/newsguidelines.html

  • La fiebre actual por la IA tocó justo el punto débil de los desarrolladores: “la AGI está a unos pocos pasos”. Es la idea de que, si una computadora puede generar frases plausibles pero falsas, pronto esas frases también serán correctas en los hechos
    El invierno que viene después de esto parece que será duro

    • Usar Claude 3.5 Sonnet en Cursor Composer ya da una gran ventaja para programar. Soy mucho más productivo que antes, y los modelos siguen mejorando
      No digo que la AGI esté a la vuelta de la esquina ni que necesariamente vayamos a alcanzarla, pero es difícil negar los beneficios, y o1 también agregó cómputo en tiempo de prueba. No hace falta burlarse
    • Me recuerda a una fábula sobre isleños que, hace mucho tiempo, no habían tenido contacto con el exterior, miraban la naturaleza con asombro y soñaban con algún día llegar a la Luna
      Vivían en chozas de paja y nunca habían subido más alto que trepar a un árbol, pero un día un genio construyó una estructura más alta que el árbol más alto y la llamó “escalera de tijera”
      La gente subió a la escalera, miró hacia abajo las copas de los árboles y declaró: “Ahora, si hacemos esto solo un poco más alto, podremos llegar a la Luna”
    • Me recuerda a los autos autónomos de hace unos años. Ya fueran robotaxis, autos autónomos o incluso Watson, una IA anterior, fue algo parecido
      En ese entonces, el ciclo de sobrecalentamiento terminó más rápido
    • Este invierno será cálido por el calor que emiten las GPU ;)
    • La expresión “frases plausibles pero falsas” se acerca a un cinismo reflejo y barato. Los LLM son un avance enorme incluso con criterios razonables
      Hay razones para ser optimistas sobre el progreso futuro: en los últimos años las capacidades han mejorado mucho y, al menos durante unos años más, es probable que esa tendencia continúe. No escalará para siempre, pero cuando se asiente el polvo, parece muy probable que queden LLM mucho más potentes que los de punta actuales, y el nivel actual ya es útil
      Dudo que esto llegue a “superinteligencia” o “la última invención”, pero sin duda es algo importante. Como mínimo, puede compararse con la Búsqueda de Google, que cambió la forma en que la gente usa las computadoras e internet
  • Sam parece no haber entrado nunca en una planta de fabricación de semiconductores. Si lo hizo, no debió haber prestado ninguna atención a lo que pasaba a su alrededor
    No entiendo cómo alguien puede ver una instalación así en persona y luego hablar con ligereza de construir 36. Hoy, una nueva inversión en fabs probablemente tarde bastante más de 10 años en recuperarse, y perseguir a unos 4 clientes para un caso de uso estrecho no tiene sentido desde la perspectiva de operar una empresa así

    • Desde su punto de vista es racional. Ustedes ponen el capital y él obtiene más recursos de cómputo
      ¿Y si no funciona y se cortan los pedidos? Ese no es su problema, ¿no?
    • Altman dijo recientemente en su texto “Intelligence Age” que la superinteligencia podría estar a solo unos miles de días
      Claro, puede estar equivocado, pero si se toma en serio esa afirmación, la conclusión natural es que la demanda de chips se disparará
    • No sé si hubo alguna vez en que Sam no pareciera más un estafador pulido que un visionario tecnológico. Casi todo lo que he leído sobre él desde hace años lo hacía ver como un fanfarrón clueless que entró solo por el dinero
      Si hablas bien, tienes contactos y eres astuto, puedes ganar muchísimo más dinero, y con mucha más facilidad, que siendo competente y honesto
    • Dejando de lado las instalaciones, escuché que la escasez de talento es un cuello de botella enorme. Especialmente en Estados Unidos
  • Hay tres cosas que me molestan del discurso actual sobre la IA. Primero, que el público se enfoque en la AGI es casi una distracción. Incluso antes de llegar a la AGI, los modelos altamente especializados van a llevarse empleos a gran escala, y la ingeniería de software y las ciencias de la computación ya están dentro de la zona de impacto.
    Segundo, la idea de que, para reemplazar un puesto, la IA tiene que hacer todas las tareas de ese puesto. ¿Qué pasa si un ingeniero de software se vuelve 50% más eficiente y la empresa despide a la mitad? Eso por sí solo tendría un impacto económico enorme, y con el estado del arte actual ya suena bastante plausible.
    Tercero, la idea de que las personas despedidas van a encontrar todas nuevos empleos gracias a las oportunidades que crea la IA. Puede que sea una laguna de conocimiento mía, pero no veo qué oportunidades podrían ser lo suficientemente grandes como para compensar la escala de eficientización que ya se empieza a ver. La estructura poblacional de pirámide invertida en Occidente amortiguará esto hasta cierto punto, pero

    • “¿Qué pasa si un ingeniero de software se vuelve 50% más eficiente y despiden a la mitad?” es el error de asumir que hay una cantidad fija de trabajo.
      Hay que mirar los efectos de segundo orden. Si se reduce el tiempo dedicado a repetir métodos conocidos, se asumen trabajos más ambiciosos, y la competencia entre empresas que usan personas+IA eleva el estándar. Durante 60 años, el software se ha canibalizado a sí mismo cada vez que aparecen nuevos lenguajes y frameworks, pero el empleo sigue siendo fuerte.
    • Es parecido a los robotaxis o autos autónomos que supuestamente iban a llevarnos por todos lados. Tampoco se puede dejar fuera la moneda no fiat que hoy todos usan fácilmente para comprar cosas.
    • La IA que no sea de propósito general no va a producir desempleo masivo, igual que no lo hicieron las tecnologías anteriores de mejora de productividad. Mientras los humanos puedan producir resultados valiosos que las máquinas no pueden crear, una economía de mayor producción encontrará formas de emplear humanos.
      Algunas personas no tendrán que cambiar de profesión. Si las herramientas de IA reducen el costo de producción, puede aumentar la demanda por lo que ofrecen, y eso también podría pasar con los ingenieros de software.
      Otras personas podrían pasar a trabajos que surjan por la nueva tecnología, o a trabajos que hoy parecen ridículos como para pagarles a muchas personas por hacerlos. Históricamente, esa ha sido una tendencia consistente. Si la transición es rápida, habrá turbulencia temporal, pero al final se acomodará.
      Lo único que rompe esta dinámica y crea la posibilidad de desempleo estructural permanente es una AGI que supere las capacidades humanas en todo trabajo útil.
    • Si la IA puede hacer mi trabajo, ¿por qué mi empleador me despediría? Si puede obtener de mí 200% de productividad solo con el costo marginal de una licencia por asiento de IA, ¿no le convendría más?
      Muchas predicciones de pérdida de empleos se basan en la suposición tácita de que ya llegamos al “máximo de carga de trabajo”. Que la productividad aumente implique menos empleos solo es cierto cuando ya no hay más trabajo que hacer. Pero parece que casi nadie intenta decir, puede demostrar, o siquiera reconoce, que habría que probar en la práctica que no hay más trabajo por hacer.
      Históricamente, los humanos han sido pésimos para predecir los tipos y la escala del trabajo futuro, pero sorprendentemente buenos para inventar nuevos trabajos que nos mantengan ocupados.
    • Cuando la electricidad se abarató, usamos más electricidad.
      Basta pensar en la cantidad de software pésimo que hay a nuestro alrededor. Mi esposa intentó usar una app para agendar un examen con su médico y no funcionó en absoluto; el personal también sabía que la app no servía, pero aun así seguían remitiendo a la gente a la app.
      Estamos rodeados de mal software, y si pudiéramos hacerlo más barato, habría muchísimo por hacer. Hoy solo las empresas ricas pueden crear software excelente.
  • Es irónico que el origen de Sam Altman sea YC. Esto es lo opuesto al pensamiento startup.
    En lugar de romper cosas rápido a pequeña escala, parece querer una enorme inversión inicial con apenas una idea vaga de para qué se usará la tecnología.

    • “Enorme inversión inicial y una idea vaga sobre el uso de la tecnología” suena exactamente a la mentalidad de una startup financiada con venture capital.
    • Probablemente ya sepan que algunas de las futuras construcciones de modelos requerirán 100 millones de dólares, tal vez 1.000 millones de dólares. Y eso es solo el costo de cómputo para crear un único modelo.
      El product-market fit está prácticamente validado y la estructura de costos se entiende a grandes rasgos, así que la razón por la que necesita dinero es bastante simple.
      Eso sí, sigue siendo una apuesta, porque si alguien aparece con un modelo de 10 millones de dólares usando una técnica nueva, la estructura de costos de OpenAI se vuelve un problema. Si eso pasa, supongo que los científicos se adaptarán bastante rápido.
    • La segunda frase describe a muchas startups.
  • Bien. Cuanto más leo sobre TSMC, más me gusta.

    • Siempre he visto la cultura taiwanesa y la cultura de TSMC como bastante contenidas. Así que si se filtró una expresión como “podcasting bro”, su significado real probablemente esté más cerca de “maldito estafador”.
    • Diría que, entre los participantes de esta fiebre, es de las evaluaciones más sensatas que he visto sobre el plan de Sam.
      Si este castillo de naipes se derrumba, será mucho más grande que cualquier burbuja que hayamos visto hasta ahora. Ya sea sobrecalentamiento o fraude.
      El desperdicio de recursos y de atención es demasiado grande, y después de la fiebre cripto, incluso los venture capitalists que quedan ya son difíciles de tomar en serio.
    • TSMC es básicamente la Spacing Guild, así que nadie se atreve a tocarla a la ligera.
    • Los rusos también se burlaban de Musk antes de que fundara SpaceX.
  • El modelo de negocio actual de OpenAI no inspira confianza. Tiene ingresos anuales de unos 3.000 millones de dólares, pero quedan completamente opacados por gastos anuales de 7.000 millones de dólares, y parece una estructura que promete “mermelada mañana”.
    Es decir, 4.000 millones de dólares de pérdidas al año, 10 millones de dólares de pérdidas por día. Las IPO también han funcionado en general como Bitcoin, bajo la teoría del tonto más grande. Se le pasa el precio inflado al siguiente tonto más grande, hasta que al final alguien en el extremo, como Twitter, no sabe cómo va a recuperar ese dinero.
    No sé cuántos días puede aguantar OpenAI perdiendo 10 millones de dólares diarios, pero en el entorno macroeconómico actual el panorama no se ve bien.

    • La mayor parte de los costos probablemente venga del entrenamiento y de operar el nivel gratuito. Ambas cosas podrían apagarse en cualquier momento y volver el negocio enormemente rentable.
      Parece que la gente no dimensiona lo que significa haber llegado a 3.000 millones de dólares de ingresos recurrentes anuales en menos de dos años. ¿Hay sobrecalentamiento con la IA? Por supuesto. ¿Es una burbuja como la cripto, donde todos venden humo? Para nada.
    • Amazon tampoco generó ganancias durante muchos años, pero hoy es una de las empresas más valiosas del mundo. La razón es que siguió creciendo.
      Si OpenAI sigue creciendo de esa manera, es “sostenible”. De verano de 2023 a verano de 2024 los ingresos se multiplicaron por 6 hasta llegar a 3.400 millones de dólares, y si el próximo año se multiplican por 4 y el siguiente por 3, serán 40.000 millones de dólares en ingresos.
    • Me pregunto de dónde sale la cifra de 3.000 millones de dólares de ARR. Me gustaría ver la fuente.
  • Puede que él sea quien ría al último. Andar por el mundo amenazando con construir fabs en Emiratos Árabes Unidos y Taiwán podría ser una maniobra diplomática para movilizar a los sectores duros de Estados Unidos
    De hecho, ClopenAI ya contrató personal relacionado con la CHIPS Act
    “Para reforzar sus esfuerzos, OpenAI incorporó a Chris Lehane, exabogado de la Casa Blanca de Clinton, como vicepresidente de política global, y también contrató a dos exfuncionarios del Departamento de Comercio que trabajaron en la CHIPS Act, una ley bipartidista para aumentar la fabricación nacional de chips. Uno de ellos gestionará futuros proyectos de infraestructura y políticas.”
    Decir “si no nos dan dinero de la CHIPS Act, construiremos fábricas en el extranjero” es una excelente jugada

    • Decir “construir fabs” es una perspectiva muy equivocada
      Si construir una fab para competir con TSMC fuera tan fácil, Intel lo habría hecho, y China también. El hardware es mucho más difícil que el software
    • La CHIPS Act tiene disposiciones para ayudar a financiar fabs en países aliados
      Por eso Biden y Modi anunciaron en la cumbre del QUAD una fab dedicada a sistemas de defensa de EE. UU. e India [0], designaron a Emiratos Árabes Unidos, junto con India, como “Major Defence Partner” [1], y esto también incluye condiciones de transferencia tecnológica
      Una parte considerable de CHIPS y la IRA está destinada a subsidiar los ecosistemas de tecnología e innovación de aliados internacionales para que no se inclinen hacia China [2]
      [0] - https://www.bloomberg.com/news/articles/2024-09-23/biden-mod...
      [1] - https://www.reuters.com/world/us/harris-plans-raise-gaza-cea...
      [2] - https://cset.georgetown.edu/publication/agile-alliances/
  • Hay tareas muy concretas y de gran impacto que sí se pueden abordar, y es realmente sorprendente que se esté gastando tanto dinero y capital político en vaporware

    • Si pudieras distinguir de antemano y de forma confiable entre ambas cosas, podrías ganar mucho dinero
    • El capital no se usa para empoderar a personas al azar, sino para obtener más poder. Esa es la realidad del mundo en que vivimos
    • La IA ya se ha estado usando durante la última década en todo tipo de tareas “muy concretas” y de “gran impacto”
    • Imagínate cuánta comida se podría dar a toda la población de Estados Unidos con 7 billones de dólares. Probablemente también se podría proveer bastante techo