SSI, la startup de IA de Ilya Sutskever, recauda $1B (1.3 billones de wones)

• Safe Superintelligence (SSI), cofundada recientemente por Ilya Sutskever, ex científico jefe de OpenAI, recaudó 1,000 millones de dólares en efectivo para ayudar a desarrollar sistemas de IA seguros que superen ampliamente las capacidades humanas
• SSI actualmente tiene 10 empleados y planea usar estos fondos para asegurar poder de cómputo y contratar al mejor talento
  • Se enfocará en construir un pequeño equipo de investigadores e ingenieros de confianza en Palo Alto, California, y Tel Aviv, Israel
• La empresa no compartió su valoración, pero según fuentes relacionadas fue valuada en 5,000 millones de dólares
  • Esta ronda de financiamiento muestra que algunos inversionistas todavía están dispuestos a hacer apuestas audaces por talento excepcional enfocado en investigación fundamental de IA
  • Entre los inversionistas participaron firmas líderes de capital de riesgo como Andreessen Horowitz, Sequoia Capital, DST Global y SV Angel
  • También participaron NFDG, la sociedad de inversión dirigida por Nat Friedman, y Daniel Gross, CEO de SSI
• La seguridad en IA es un tema candente en medio de preocupaciones de que la IA pueda actuar en contra de los intereses de la humanidad o incluso provocar la extinción humana
  • Un proyecto de ley en California impulsa regulaciones de seguridad para las empresas y está dividiendo a la industria
  • OpenAI y Google se oponen, mientras que Anthropic y xAI de Elon Musk la apoyan
• Sutskever es uno de los tecnólogos más influyentes en el campo de la IA
  • En junio cofundó SSI junto con Daniel Gross y Daniel Levy
  • Sutskever es científico jefe, Levy es científico principal y Gross está a cargo del poder de cómputo y la recaudación de fondos

Nueva montaña

• Sutskever dijo que comenzó este nuevo proyecto porque "descubrí una montaña un poco distinta de aquella en la que estaba trabajando"
  • El año pasado, como miembro de la junta de la organización matriz sin fines de lucro de OpenAI, votó para destituir al CEO de OpenAI, Sam Altman, citando una "ruptura en la comunicación"
  • Días después, revirtió su decisión y firmó junto con casi todos los empleados de OpenAI una carta exigiendo el regreso de Altman y la renuncia de la junta
  • Sin embargo, a raíz de ese incidente su papel se redujo, fue removido de la junta y dejó la empresa en mayo
• Después de la salida de Sutskever, la empresa desmanteló el equipo de 'superalignment', que buscaba alinear la IA con los valores humanos para prepararse para el día en que la IA supere la inteligencia humana
• A diferencia de la estructura corporativa inusual de OpenAI, introducida por motivos de seguridad en IA pero que hizo posible la destitución de Altman, SSI tiene una estructura convencional con fines de lucro
• SSI está muy enfocada actualmente en contratar personas que encajen con la cultura de la empresa
  • Dedica tiempo a verificar si los candidatos tienen "buen carácter" y busca personas con capacidades extraordinarias en lugar de poner demasiado énfasis en credenciales y experiencia de campo
  • Gross añadió: "Nos entusiasma encontrar personas interesadas en el trabajo, pero no en el entorno alrededor ni en la publicidad exagerada"
• SSI planea colaborar con proveedores de nube y empresas de chips para cubrir sus necesidades de poder de cómputo, pero todavía no ha decidido con cuáles compañías trabajará
  • Las startups de IA suelen asociarse con empresas como Microsoft o Nvidia para resolver sus necesidades de infraestructura
• Sutskever fue uno de los primeros defensores de la hipótesis de escalamiento, según la cual el desempeño de los modelos de IA mejora cuando se les da una enorme cantidad de poder de cómputo
  • Esta idea y su ejecución desencadenaron una ola de inversión en IA en chips, centros de datos y energía, y sentaron las bases para avances de IA como ChatGPT
  • Dijo que abordará el escalamiento de forma distinta a su anterior empleador, pero no compartió detalles
  • "Todos hablan simplemente de la hipótesis de escalamiento. No preguntan qué es lo que estamos escalando", dijo

• "Algunas personas pueden trabajar durante muchísimo tiempo y avanzar más rápido por el mismo camino. Ese no es nuestro estilo. Pero si haces algo diferente, puedes lograr algo especial."

Opinión de GN⁺

• Esta inversión muestra la importancia de la investigación fundamental en IA y el valor del talento. Aunque muchas startups de IA tienen dificultades para levantar grandes rondas, SSI recibió una inversión enorme gracias al reconocimiento de las capacidades de sus fundadores
• La seguridad en IA se está convirtiendo en un tema clave debido al rápido avance de la IA generativa como ChatGPT. Sin embargo, regular en exceso el desarrollo de IA en nombre de la seguridad puede frenar la innovación, por lo que se necesita un enfoque equilibrado
• SSI dijo que buscará una estrategia de escalamiento diferenciada frente a los enfoques existentes, pero como no se han revelado detalles concretos, habrá que seguir de cerca su evolución. Se esperan nuevas formas de desarrollo de modelos de IA
• El conflicto entre Sutskever y OpenAI es lamentable, pero parece haber abierto una nueva plataforma para aprovechar su talento y visión. Habrá que observar qué impacto tendrá SSI en el futuro de la IA
• Aunque es una startup joven, la estrategia de contratación de SSI resulta interesante. Dar prioridad a la capacidad y los valores por encima de los títulos o la trayectoria es una dirección deseable. Sin embargo, queda por ver si este enfoque será efectivo en un contexto de competencia feroz por talento en IA

[choijaekyu]

Je, je, ¡el hombre de los 100 millones de dólares!!!

[xguru]

Financiamiento de 1.3 billones de wones apenas dos meses después de fundarla... da miedo cómo está el mercado.
Ilya Sutskever, que dejó OpenAI, funda Safe Superintelligence Inc.

[GN⁺]

Opiniones en Hacker News

• Me pregunto cómo las empresas que han recibido inversión en el sector de la IA van a generar ingresos

  • Existen LLM de código abierto y seguirán mejorando
  • OpenAI está generando ingresos considerables en el sector de la IA
  • Sin financiamiento al nivel de VC, es difícil esperar retornos de 10x o 100x

• Como CFO, me pregunto cómo gestionarían $1B en efectivo a corto y mediano plazo

  • Me pregunto si ese efectivo está colocado en money markets o bonos del Tesoro
  • Se necesitan servicios como los que ofrecía SVB

• Recaudación de fondos como OpenAI, pero SSI no lanzará ni un solo producto hasta alcanzar la superinteligencia

  • Se parece a un Proyecto Manhattan moderno

• Una inversión de $1,000,000,000 podría distorsionar la visión segura de SafeAI

  • La inversión podría transformar la misión de la empresa en generación de ganancias

• El respaldo financiero de a16z podría ser una señal de que ese sector ya no está tan caliente

• Mucha gente asume que el objetivo son LLM extremadamente grandes

  • Hace 5 años, los modelos transformer no eran el tema más importante en IA
  • Tienen un plan a 10 años e intentan inventar un gran salto, como la invención de los modelos transformer
  • "SSI" podría ser diferente de GPT

• Sam Bankman-Fried recaudó capital con múltiplos más altos

  • Puede que Ilya no haya impresionado tanto a los inversionistas
  • Aun así, mucha gente quiere invertir en él
  • Podría preferir un grupo pequeño de inversionistas

• No estoy seguro de que puedan construir AGI

  • Escalar LLM por sí solo no es suficiente
  • Los VCs siguen financiando porque fingen que la gente puede construir superinteligencia
  • Es poco probable que AGI se materialice en los próximos 5 años

• No entiendo por qué una IA "segura" puede recaudar tanto dinero

  • Consumirá el doble de tiempo antes de lanzarse comercialmente
  • La IA "no segura" parece más rentable

• Es uno de los casos que alcanzó una valuación de más de mil millones de dólares muy rápido

  • Hay dudas sobre si podrá usar el capital de manera efectiva