- En una audiencia del Comité de Ciencia de la Cámara de Representantes de EE. UU., Clement Delangue, CEO de Hugging Face, enfatizó que la ciencia abierta y la IA open source están fuertemente alineadas con los valores e intereses de Estados Unidos
- Delangue considera que herramientas open source originadas en Estados Unidos, como PyTorch, Tensorflow, Keras, transformers y diffusers, han respaldado el avance de la IA y la posición de liderazgo de EE. UU.
- El testimonio se produjo dos semanas después de que senadores interrogaran sobre la posible mala utilización de la filtración de LLaMA de Meta para spam, fraude, malware, violaciones de privacidad, acoso y otros abusos
- Explicó que la apertura ética da a la sociedad civil, las organizaciones sin fines de lucro, la academia y los responsables de políticas la capacidad de contrapesar a las grandes empresas privadas y reduce los sistemas de caja negra
- Hugging Face busca combinar apertura y mecanismos de seguridad mediante model cards, restricciones de acceso, lanzamientos graduales, moderación comunitaria y datasets con opt-in/opt-out
Defensa de la IA open source en una audiencia de la Cámara de Representantes de EE. UU.
- Clement Delangue, CEO de Hugging Face, testificó en la audiencia plenaria del Comité de Ciencia de la Cámara de Representantes de EE. UU. Artificial Intelligence: Advancing Innovation Towards the National Interest
- En la misma audiencia también participaron Jason Matheny, CEO de RAND Corporation; Shahin Farshchi, socio general de Lux Capital; Rumman Chowdhury, fellow de IA responsable de Harvard University; y Dewey Murdick, director ejecutivo del Center for Security and Emerging Technology de Georgetown University
- Delangue considera que los avances recientes en IA fueron posibles sobre la base de la ciencia abierta y el open source
- PyTorch, Tensorflow, Keras, transformers y diffusers fueron mencionadas como tecnologías open source creadas en Estados Unidos
- Afirmó que, sin estas tecnologías, Estados Unidos quizá no sería el país líder en IA
Apertura ética presentada en medio de la controversia por LLaMA
- El testimonio de Delangue se produjo dos semanas después de que senadores interrogaran a Mark Zuckerberg por la filtración de LLaMA, el LLM open source de Meta
- La carta expresaba preocupación por la posibilidad de que LLaMA se usara para spam, fraude, malware, violaciones de privacidad, acoso y otras conductas indebidas y daños
- La difusión de LLaMA elevó considerablemente la sofisticación de los modelos de IA accesibles al público general, y también aumentó la preocupación por su posible uso indebido o abuso
- Hugging Face es una startup con sede en Nueva York que el año pasado recibió una valuación de 2.000 millones de dólares y se consolidó como hub de código y modelos open source
- En abril, Delangue reunió a más de 5.000 personas en un meetup de tecnología open source realizado en el Exploratorium de San Francisco
- Delangue dijo que la ciencia abierta y el open source impulsan a decenas de miles de startups que usan IA
- La apertura ética proporciona a la sociedad civil, las organizaciones sin fines de lucro, la academia y los responsables de políticas las capacidades necesarias para contrapesar el poder de las grandes empresas privadas
- Ayuda a evitar sistemas de caja negra y aumenta la responsabilidad empresarial
- Puede contribuir a mitigar sesgos, reducir la desinformación, promover los derechos de autor y compensar a las partes interesadas, incluidos artistas y creadores de contenido
- El enfoque de Hugging Face combina políticas institucionales, mecanismos técnicos de seguridad e incentivos comunitarios
- Incluye documentación y model cards, entre ellas las model cards impulsadas por la Dra. Margaret Mitchell
- Usa restricciones de acceso a artefactos y lanzamientos graduales como mecanismos técnicos de seguridad
- La moderación comunitaria y los datasets con opt-in/opt-out también forman parte de la estructura de incentivos
- En los últimos meses, la sucesión de lanzamientos de grandes modelos de lenguaje y la reacción de startups, colectivos y la academia contra el giro hacia LLM cerrados y propietarios intensificaron aún más el debate sobre la IA open source
1 comentarios
Opiniones de Hacker News
Esto es una miniatura perfecta de cómo funciona el sistema. Esta persona tiene razón, pero llegó demasiado tarde, con muy poco dinero y sin recibir suficiente atención
Mientras tanto, Sam Altman es la cara de un producto de consumo con un excelente equipo de marketing e incluso lobistas, recibió miles de millones de dólares de Microsoft y además tiene un producto que cualquiera puede probar gratis
Solo hay que entrar primero y plantear el discurso de los riesgos de la IA, convencer a los legisladores de que la tecnología más avanzada es peligrosa. Como OpenAI pronto pasa a verse casi como sinónimo de tecnología de punta, la gente sigue al líder de la industria sin mirar bien hacia dónde va, y así terminamos aquí
Ojalá el software de código abierto estuviera representado de forma justa en los tribunales, pero las ideas no pueden pagar sus propios costos y la voz del dinero es demasiado fuerte
El Congreso carga con la sensación de haber dejado sin control a las redes sociales y está desesperado por regular la IA. En la audiencia no hubo desacuerdo real, y las intenciones del gobierno y de la industria encajan perfectamente. Le están poniendo alfombra roja al control centralizado y avanzando hacia eliminar la competencia mediante regulación
Lo que corre en local evita el perímetro de red donde se puede interceptar y vigilar. Preguntarle a Google queda registrado y el historial de búsqueda puede obtenerse con una orden judicial, igual que los registros de préstamos de bibliotecas públicas. Un operador de acceso como OpenAI puede asumir ese papel y cobrar peaje
Si haces la misma investigación con algo como Vicuna-13B-ggml, nadie puede husmear lo que estás haciendo. Eso suena bien para quien quiere estar solo, pero tiene implicaciones inquietantes para quien cree que debe frenar a usuarios más maliciosos
Por desgracia, en temas como este casi no hay posibilidad de compromiso. Lo mejor sería algo como la ley reciente de los Países Bajos, donde el gobierno puede entrar en dispositivos personales si hay una razón importante, pero eso no va a pasar. La única alternativa favorable al gobierno sería prohibir los modelos locales y hasta su propio desarrollo open source
Para superar la resistencia del statu quo se necesita un gran apoyo popular, y ese apoyo no existe, además de que comprarlo con dinero sale muy caro
El código abierto es un componente esencial para construir una sociedad digital sana más cercana a los valores que defendemos
La IA es importante, pero al final es solo una parte pequeña de toda esta transformación. Vale la pena recordar que Bitcoin, que busca sacudir los fundamentos de la vida económica, también es open source
El proceso evolutivo de sembrar capacidades open source a escala social no es automático ni claramente bueno. El ejemplo de las criptomonedas arriba lo demuestra
Todavía hay muchas tecnologías, instituciones y formas de actuar que debemos imaginar, desarrollar, probar y difundir. Esta es una buena tarea para que los ingenieros de la “sociedad” digital, presentes y futuros, se remanguen y la enfrenten
Me cuesta imaginar otro universo que no sea distópico. Si alguien alguna vez ha presentado una visión monopolística que sea moralmente compatible con la agencia individual, la libertad y el control democrático, y al mismo tiempo intelectualmente honesta respecto a sus propios incentivos, de verdad me gustaría conocerla
El CEO de Hugging Face lo hizo muy bien. Compartí con amigos y familiares un enlace de YouTube de 5 minutos, y explica muy bien las ventajas de los modelos abiertos y del open source
En este caso, parece un ejemplo donde la diferencia entre código abierto y software libre se vuelve bastante importante
Incluso si se publicaron de forma intencional, lo mismo aplica a modelos cuya licencia limita el “uso no comercial” o solo permite uso comercial cuando no compiten con la empresa que los publicó
El avance de este campo en los últimos 20 años se aceleró enormemente gracias a ese intercambio. En vez de que las empresas se aferren a los resultados y protejan su salsa secreta, han compartido muchos detalles, verificando al reproducir y mejorar los resultados de los demás
OpenAI creó ChatGPT, Meta creó Llama y Google está con Bard. Llama se soltó en cierta medida hacia la comunidad open source, y ahora la gente lo está usando, mejorando y comparando con sus propios modelos y benchmarks
Al menos en generación de imágenes, parece que con el entrenamiento hecho de forma crowdsourced los modelos abiertos ahora dan resultados mucho mejores
Se siente raro ver a Hugging Face salir en las noticias de esta manera. Recuerdo haber contribuido con un parche por ahí del verano de 2019, cuando tenían como 4 mil estrellas, y aun entonces ya me parecía un proyecto bastante popular
¿Cuál será el objetivo final de Hugging Face? ¿Convertirse en el GitHub de la IA?
También están tratando de expandirse hacia el entrenamiento de modelos de IA y la ejecución de inferencia. Pero el costo de inferencia parece muy poco competitivo comparado con proveedores de GPU como CoreWeave
Me gusta que en redes sociales siga siendo alguien bastante accesible
¿Por qué el Congreso se está metiendo incluso en temas como software, código abierto e IA?
El Congreso tendrá la facultad de regular el comercio con naciones extranjeras, entre los distintos estados y con las tribus indígenas
Me gustaría saber si ha visto el proyecto Bittensor y cuál es su opinión. ¿Vale la pena considerar una integración?
Creo que podría ayudar a cosas como este proyecto y al movimiento de IA open source
¿No están la mayoría de los modelos en Hugging Face bajo esas extrañas licencias RAIL en vez de ser open source?