El fin de la frontera
(tanyaverma.sh)- El anuncio de Mythos por parte de Anthropic marca que internet ya no es un espacio de creación sin permisos donde cualquiera puede explorar libremente
- A medida que el trabajo y la inteligencia son reemplazados por capital, se está consolidando una estructura en la que unas pocas empresas aseguran una ventaja permanente en la era de la IA
- Las políticas de modelos cerrados y las restricciones de acceso vía API se justifican en nombre de la seguridad, pero terminan frenando tanto la innovación como la investigación en seguridad
- El principio básico del acceso a la inteligencia debe ser “acceso primero”, y las empresas deben garantizar procesos transparentes y auditabilidad
- Hay que desconfiar de una estructura colonial de extracción de valor en la que unos pocos monopolizan modelos entrenados con datos de toda la humanidad, y proteger la apertura y creatividad de internet
El fin de la frontera
- El anuncio de Mythos por parte de Anthropic marca que internet ya no es un espacio sin permisos donde cualquiera pueda explorar y crear libremente
- Antes, cualquiera podía acceder a la misma infraestructura tecnológica de internet sin necesidad de capital o contactos, pero ahora la brecha entre modelos abiertos y cerrados está creciendo
- Esto se compara con el fin de las oportunidades que simbolizó la “desaparición de la frontera” en la época de expansión hacia el oeste en Estados Unidos
- Se profundiza una estructura en la que el trabajo y la inteligencia son reemplazados por capital, lo que permite a los grupos con capital asegurar una ventaja permanente en la era de la IA
- Rudolf Laine lo describió como “una era en la que el capital se convierte en trabajo sobrehumano”, y George Hotz la llamó “neofeudalism”
- Se advierte que, si un número ínfimo de empresas monopoliza la inteligencia misma, el resto podría quedar relegado de forma permanente a una clase inferior
- La política cerrada de Mythos de Anthropic es criticada no como una simple medida de seguridad, sino como una estructura en la que empresas privadas monopolizan capacidades de nivel estatal
- Anthropic anunció Project Glasswing junto con AWS, Apple y Google, pero en lugar de abrirlo al público, otorgó acceso solo a socios corporativos
- Esto aumenta el riesgo ante incidentes de seguridad o filtraciones de información y genera una situación antidemocrática en la que capacidades de nivel estatal se concentran en empresas privadas
- Las restricciones de acceso vía API ayudan a prevenir abusos, pero al mismo tiempo sofocan la innovación y la investigación en seguridad
- El acceso abierto permite revelar las capacidades potenciales del modelo y posibilita “fallar rápido y corregir” en entornos reales
- Como ocurrió con la adopción de herramientas de fuzzing (American Fuzzy Lop), que fortalecieron la seguridad, ampliar el acceso a los modelos frontier también podría mejorar la capacidad de defensa
- Sin embargo, hoy muchos investigadores de seguridad en IA no pueden acceder a los grandes modelos y, por ello, recurren en su mayoría a modelos open source chinos
- El principio básico del acceso a la inteligencia debe ser “acceso primero”, y las medidas de seguridad deben añadirse después
- Las empresas con capacidades de nivel gubernamental deben establecer procedimientos justos y criterios transparentes, y si restringen el acceso, deben explicar claramente los motivos
- Quitarle a alguien el acceso a modelos frontier funciona como una forma de exclusión social similar a quedar “unbanked”
- Se exige una obligación de auditoría al nivel de la FOIA
- Que unas pocas empresas monopolizen modelos entrenados con datos de toda la humanidad se parece a una estructura colonial de extracción de valor
- A la mayoría que aporta los datos se le extrae valor sin consentimiento, mientras las ganancias se concentran en redes internas
- Después se repite el patrón de buscar legitimidad moral mediante UBI o donaciones benéficas
- Aunque la intención no sea maliciosa, el problema estructural de la concentración de poder sigue siendo el mismo
- También se plantea una esperanza en torno al potencial de personalización de la IA
- La actual era cerrada de la IA podría ser apenas una era de mainframes, y todavía existe la posibilidad de pasar a una era de computación personal (Apple II)
- Los modelos open source ya siguen a la frontera con una brecha de 3 a 12 meses, y si se amplía el suministro de chips y energía, podría llegar una era de “inteligencia tan barata que resulte inconmensurable”
-
No debemos perder la libertad de ‘Wired’
- Así como una ciudad tala árboles antiguos en nombre de la seguridad, existe el riesgo de perder la apertura y creatividad de internet por una lógica de seguridad excesiva
- Internet sigue siendo el último espacio para la creación y la exploración impulsadas por las personas, y es importante protegerlo
13 comentarios
Parece una exageración de marketing. Cada vez que sale un modelo nuevo, siempre dicen que es el mejor de la historia, que es el fin de la era humana, que como ya se acabó la programación ahora hay que hacerse plomero, etc. Han sobrado frases grandilocuentes e ingeniosas, pero a la hora del uso real había problemas, y lo más importante es que la mayoría de la gente en realidad se queda apenas en el nivel de usarlo como un buscador avanzado, así que no logra sacar el 100% del rendimiento de un modelo potente. El cuello de botella en la era de los LLM no es el código ni la infraestructura, sino, paradójicamente, el bajo nivel de comprensión que tiene el público general sobre los sistemas de información al momento de lanzar prompts.
Viendo cómo se están liberando últimamente los modelos de 31B, es impresionante... por ahora todavía parece que hay un poco de esperanza.
Comentarios en Hacker News
Apenas ha pasado una semana desde el anuncio y ya se está teniendo esta discusión; me parece demasiado pronto
Eso de que “este modelo es demasiado poderoso para el público” suena como frase de marketing
En unos meses igual van a vender otro modelo, y después dirán que “el nuevo modelo es demasiado poderoso como para publicarlo”
Dicen que Mythos es demasiado lento para programación interactiva. Si hay que esperar toda una noche para obtener resultados, la mayoría de los usuarios no tendrá razones para usarlo
Los laboratorios de IA siguen operando con pérdidas, y para lanzar Mythos tendrían que ponerle un precio mucho más alto. Si la mayoría de los clientes no percibe esa diferencia, no tiene sentido económico
Tal vez Anthropic quería aprovechar un mayor acceso a centros de datos de entrenamiento que OpenAI. Pero lo que se necesita ahora no es un modelo más inteligente, sino modelos pequeños, baratos y suficientemente buenos
No parece que Mythos vaya a ser muy distinto de aquello
Quienes querían frenar el desarrollo de la IA terminaron difundiendo ese discurso y atrayendo atención, contribuyendo al final a la expansión de la IA
Incluso hubo un estudio interesante alrededor de 2011 sobre este fenómeno; recuerdo el caso de la marca sueca Cheap Monday
Parece creer que restringir el acceso es la clave de la seguridad
Pero si esa actitud termina beneficiando solo a unos pocos y excluyendo a la mayoría, la legitimidad de eso debería decidirla el público
Si una función así se liberara mediante una API pública, el potencial de abuso sería alto
Ya hay muchos casos de fraude a gran escala y deepfakes hechos con IA
Si al ordenarle a código open source “encuentra todas las vulnerabilidades posibles” produce muchos más resultados que los modelos anteriores, una liberación limitada es una decisión razonable
Se entiende que Anthropic haya dado acceso solo a empresas de seguridad como Crowdstrike, Cisco y Microsoft
Si el objetivo de Glasswing es reforzar la seguridad de la infraestructura, sería raro bloquearles el acceso justamente porque hubo incidentes de seguridad
Quizá Mythos se publique algún día, pero esta liberación limitada parece más bien una etapa de preparación para una publicación segura
En NVIDIA están desarrollando Nemotron para resolver estas preocupaciones
Nemotron es un modelo que publica no solo pesos abiertos, sino también datos abiertos y receta abierta
El objetivo es que varias instituciones colaboren para crear una IA abierta
Nemotron 3 Super es actualmente el más exitoso, y pronto también saldrán Ultra y Nemotron 4
Es una estrategia posible porque, a medida que la IA crece, también crecen las oportunidades para NVIDIA
Enlace relacionado
La frase “la época en la que un chico de 16 años podía construir algo sin capital” hoy está más cerca de ser verdad
Anthropic no puede publicar Mythos por falta de recursos de cómputo
OpenAI va a asegurar mucha más potencia de cómputo este año y el próximo
Como Mythos no parece tan distinto de otros modelos, estoy de acuerdo con que “es demasiado pronto”
Aun así, el marco que usan los críticos de la IA de que “las grandes empresas saquearon a la sociedad” parece surgir de un malentendido del concepto de propiedad intelectual
En vez de esconder Mythos, Anthropic podría usarlo como servicio de auditoría de seguridad empresarial
Un servicio rentable sería uno que ataque infraestructura con el modelo para encontrar vulnerabilidades
Por ejemplo, si el mantenedor de un paquete popular de npm, necesitado de dinero, pidiera que Mythos auditara su biblioteca y un mes después lo hackearan, sería un gran problema
Me llamó la atención la analogía con la red eléctrica
Igual que con la energía solar, una persona puede producir electricidad por su cuenta, pero la mayoría paga servicios públicos para usarla
Del mismo modo, el acceso a la inteligencia debería estar abierto para todos por defecto
Los usos peligrosos pueden limitarse con mecanismos de seguridad, pero la opción predeterminada debería ser permitir el acceso
La humanidad siempre cae en la tentación de convertir ‘tecnologías monstruosas’ en bienes indispensables
Pero a esos monstruos no se les puede encerrar por mucho tiempo. Al final se vuelven incontrolables
La oportunidad de la época de la frontera en Estados Unidos fue un fenómeno excepcional
En períodos de expansión rápida, los individuos podían crecer, pero cuando llega el estancamiento, las empresas aplastan a las personas
A medida que el desarrollo tecnológico se acelera, estamos llegando a un punto en el que un individuo puede destruir el mundo
Igual que con las armas nucleares, ya llegó el momento de restringir el acceso individual a la IA
Para tener éxito, tendría que ser un servicio conectado con celebridades
Total, las competidoras igual lo terminan copiando todo jajaja. "Bueno, ahora péguense entre ustedes"
Pero eso no debe de ser un concepto nuevo, ¿no?
Incluso en el sector financiero existe un hub financiero que está por encima de las leyes de todos los países, y desde ahí se controlan todos los sistemas del sector financiero.
Ahora en TI también se está creando algo así, un hub de TI, y se puede ver como que las empresas tecnológicas se coordinan entre sí para plantarle cara a todos los países.
Y viendo el rendimiento de Claude, se entiende eso.
¿Se refiere a que el hub financiero alude a un grupo específico como la red judía, o a hubs de simple intermediación como Hong Kong y Singapur?
En realidad, hay que ver que estructuras como SWIFT o la compensación de pagos están prácticamente en manos de las grandes potencias.
Más que oponerse, suelen usarse más bien como herramientas del lado que tiene poder.
Viéndolo con esa sensación, este texto también me parece que, en línea con su intención original, termina sintiéndose más naturalmente como una herramienta de los poderosos.
Parece que por ahora todavía pesa bastante el marketing.
Bueno, si se llegara a crear un modelo con capacidades prácticamente infinitas, también parece que no habría motivo para hacerlo público. Podría generar por sí mismo un valor agregado mayor que lo que cobraría por su uso...
Si se obligara a que se haga público correctamente, entonces al sustituirse el trabajo y la inteligencia, incluso podría materializarse un comunismo que nunca antes había podido existir en la historia.
Es un muy buen texto que señala puntos en los que no había pensado. ¡Gracias!
Al ver cosas como GLM5.1, me dio la impresión de que incluso los modelos abiertos, aunque mantengan una pequeña brecha, pueden seguir alcanzando de forma constante a los modelos cerrados de pago.
Parece algo que ya se veía venir... una era en la que la tecnología se vuelve magia y unos pocos magos lo monopolizan todo..
¿Anthropic inventó el B2B?