1 puntos por GN⁺ 2023-06-29 | 1 comentarios | Compartir por WhatsApp
  • En una audiencia del Comité de Ciencia de la Cámara de Representantes de EE. UU., Clement Delangue, CEO de Hugging Face, enfatizó que la ciencia abierta y la IA open source están fuertemente alineadas con los valores e intereses de Estados Unidos
  • Delangue considera que herramientas open source originadas en Estados Unidos, como PyTorch, Tensorflow, Keras, transformers y diffusers, han respaldado el avance de la IA y la posición de liderazgo de EE. UU.
  • El testimonio se produjo dos semanas después de que senadores interrogaran sobre la posible mala utilización de la filtración de LLaMA de Meta para spam, fraude, malware, violaciones de privacidad, acoso y otros abusos
  • Explicó que la apertura ética da a la sociedad civil, las organizaciones sin fines de lucro, la academia y los responsables de políticas la capacidad de contrapesar a las grandes empresas privadas y reduce los sistemas de caja negra
  • Hugging Face busca combinar apertura y mecanismos de seguridad mediante model cards, restricciones de acceso, lanzamientos graduales, moderación comunitaria y datasets con opt-in/opt-out

Defensa de la IA open source en una audiencia de la Cámara de Representantes de EE. UU.

  • Clement Delangue, CEO de Hugging Face, testificó en la audiencia plenaria del Comité de Ciencia de la Cámara de Representantes de EE. UU. Artificial Intelligence: Advancing Innovation Towards the National Interest
  • En la misma audiencia también participaron Jason Matheny, CEO de RAND Corporation; Shahin Farshchi, socio general de Lux Capital; Rumman Chowdhury, fellow de IA responsable de Harvard University; y Dewey Murdick, director ejecutivo del Center for Security and Emerging Technology de Georgetown University
  • Delangue considera que los avances recientes en IA fueron posibles sobre la base de la ciencia abierta y el open source
    • PyTorch, Tensorflow, Keras, transformers y diffusers fueron mencionadas como tecnologías open source creadas en Estados Unidos
    • Afirmó que, sin estas tecnologías, Estados Unidos quizá no sería el país líder en IA

Apertura ética presentada en medio de la controversia por LLaMA

  • El testimonio de Delangue se produjo dos semanas después de que senadores interrogaran a Mark Zuckerberg por la filtración de LLaMA, el LLM open source de Meta
    • La carta expresaba preocupación por la posibilidad de que LLaMA se usara para spam, fraude, malware, violaciones de privacidad, acoso y otras conductas indebidas y daños
    • La difusión de LLaMA elevó considerablemente la sofisticación de los modelos de IA accesibles al público general, y también aumentó la preocupación por su posible uso indebido o abuso
  • Hugging Face es una startup con sede en Nueva York que el año pasado recibió una valuación de 2.000 millones de dólares y se consolidó como hub de código y modelos open source
    • En abril, Delangue reunió a más de 5.000 personas en un meetup de tecnología open source realizado en el Exploratorium de San Francisco
  • Delangue dijo que la ciencia abierta y el open source impulsan a decenas de miles de startups que usan IA
  • La apertura ética proporciona a la sociedad civil, las organizaciones sin fines de lucro, la academia y los responsables de políticas las capacidades necesarias para contrapesar el poder de las grandes empresas privadas
    • Ayuda a evitar sistemas de caja negra y aumenta la responsabilidad empresarial
    • Puede contribuir a mitigar sesgos, reducir la desinformación, promover los derechos de autor y compensar a las partes interesadas, incluidos artistas y creadores de contenido
  • El enfoque de Hugging Face combina políticas institucionales, mecanismos técnicos de seguridad e incentivos comunitarios
    • Incluye documentación y model cards, entre ellas las model cards impulsadas por la Dra. Margaret Mitchell
    • Usa restricciones de acceso a artefactos y lanzamientos graduales como mecanismos técnicos de seguridad
    • La moderación comunitaria y los datasets con opt-in/opt-out también forman parte de la estructura de incentivos
  • En los últimos meses, la sucesión de lanzamientos de grandes modelos de lenguaje y la reacción de startups, colectivos y la academia contra el giro hacia LLM cerrados y propietarios intensificaron aún más el debate sobre la IA open source

1 comentarios

 
GN⁺ 2023-06-29
Opiniones de Hacker News
  • Esto es una miniatura perfecta de cómo funciona el sistema. Esta persona tiene razón, pero llegó demasiado tarde, con muy poco dinero y sin recibir suficiente atención
    Mientras tanto, Sam Altman es la cara de un producto de consumo con un excelente equipo de marketing e incluso lobistas, recibió miles de millones de dólares de Microsoft y además tiene un producto que cualquiera puede probar gratis
    Solo hay que entrar primero y plantear el discurso de los riesgos de la IA, convencer a los legisladores de que la tecnología más avanzada es peligrosa. Como OpenAI pronto pasa a verse casi como sinónimo de tecnología de punta, la gente sigue al líder de la industria sin mirar bien hacia dónde va, y así terminamos aquí
    Ojalá el software de código abierto estuviera representado de forma justa en los tribunales, pero las ideas no pueden pagar sus propios costos y la voz del dinero es demasiado fuerte

    • Altman no fue al Congreso para convencerlo de que “la IA más avanzada es peligrosa”, sino que Blumenthal lo invitó para montar algo que se viera bien ante la prensa
      El Congreso carga con la sensación de haber dejado sin control a las redes sociales y está desesperado por regular la IA. En la audiencia no hubo desacuerdo real, y las intenciones del gobierno y de la industria encajan perfectamente. Le están poniendo alfombra roja al control centralizado y avanzando hacia eliminar la competencia mediante regulación
    • Los intereses del gobierno probablemente se alinearán mejor con los de OpenAI, y eliminar los modelos abiertos/locales incluso podría parecerles lo lógico
      Lo que corre en local evita el perímetro de red donde se puede interceptar y vigilar. Preguntarle a Google queda registrado y el historial de búsqueda puede obtenerse con una orden judicial, igual que los registros de préstamos de bibliotecas públicas. Un operador de acceso como OpenAI puede asumir ese papel y cobrar peaje
      Si haces la misma investigación con algo como Vicuna-13B-ggml, nadie puede husmear lo que estás haciendo. Eso suena bien para quien quiere estar solo, pero tiene implicaciones inquietantes para quien cree que debe frenar a usuarios más maliciosos
      Por desgracia, en temas como este casi no hay posibilidad de compromiso. Lo mejor sería algo como la ley reciente de los Países Bajos, donde el gobierno puede entrar en dispositivos personales si hay una razón importante, pero eso no va a pasar. La única alternativa favorable al gobierno sería prohibir los modelos locales y hasta su propio desarrollo open source
    • También es terrible que, en la percepción pública, OpenAI quede asociado por su nombre con el código abierto. Entonces dos enfoques opuestos terminan viéndose mezclados para la gente
    • ¿De verdad te parece que ya es demasiado tarde? ¿No estamos todavía en una etapa inicial?
    • La razón para ser optimistas es que los lobistas que quieren cerrar la IA tienen un punto débil: últimamente el Congreso no hace muy bien su trabajo, y en este tema el statu quo es “no hacer nada”
      Para superar la resistencia del statu quo se necesita un gran apoyo popular, y ese apoyo no existe, además de que comprarlo con dinero sale muy caro
  • El código abierto es un componente esencial para construir una sociedad digital sana más cercana a los valores que defendemos
    La IA es importante, pero al final es solo una parte pequeña de toda esta transformación. Vale la pena recordar que Bitcoin, que busca sacudir los fundamentos de la vida económica, también es open source
    El proceso evolutivo de sembrar capacidades open source a escala social no es automático ni claramente bueno. El ejemplo de las criptomonedas arriba lo demuestra
    Todavía hay muchas tecnologías, instituciones y formas de actuar que debemos imaginar, desarrollar, probar y difundir. Esta es una buena tarea para que los ingenieros de la “sociedad” digital, presentes y futuros, se remanguen y la enfrenten
    Me cuesta imaginar otro universo que no sea distópico. Si alguien alguna vez ha presentado una visión monopolística que sea moralmente compatible con la agencia individual, la libertad y el control democrático, y al mismo tiempo intelectualmente honesta respecto a sus propios incentivos, de verdad me gustaría conocerla

  • El CEO de Hugging Face lo hizo muy bien. Compartí con amigos y familiares un enlace de YouTube de 5 minutos, y explica muy bien las ventajas de los modelos abiertos y del open source

    • ¿Puedes pasar el enlace del video?
  • En este caso, parece un ejemplo donde la diferencia entre código abierto y software libre se vuelve bastante importante

    • De verdad me gustaría que en el mundo de los LLM dejaran de llamar “open source” a modelos cuyo código fuente o pesos se filtraron
      Incluso si se publicaron de forma intencional, lo mismo aplica a modelos cuya licencia limita el “uso no comercial” o solo permite uso comercial cuando no compiten con la empresa que los publicó
    • Aun sin obsesionarnos demasiado con la semántica, lo importante aquí es el intercambio libre de ideas, algoritmos y parte del código
      El avance de este campo en los últimos 20 años se aceleró enormemente gracias a ese intercambio. En vez de que las empresas se aferren a los resultados y protejan su salsa secreta, han compartido muchos detalles, verificando al reproducir y mejorar los resultados de los demás
      OpenAI creó ChatGPT, Meta creó Llama y Google está con Bard. Llama se soltó en cierta medida hacia la comunidad open source, y ahora la gente lo está usando, mejorando y comparando con sus propios modelos y benchmarks
    • El código abierto siempre es importante. Sin open source es difícil que exista una buena cantera de desarrolladores. Otras áreas de la ingeniería también deberían aspirar a algo parecido. Claro, eso no significa que el software cerrado no pueda existir
      Al menos en generación de imágenes, parece que con el entrenamiento hecho de forma crowdsourced los modelos abiertos ahora dan resultados mucho mejores
    • Sinceramente, yo lo siento al revés. Cuanto más software open source haya, mejor, pero no creo que volver open source a los LLM reduzca mucho el mayor riesgo que yo veo en los LLM
  • Se siente raro ver a Hugging Face salir en las noticias de esta manera. Recuerdo haber contribuido con un parche por ahí del verano de 2019, cuando tenían como 4 mil estrellas, y aun entonces ya me parecía un proyecto bastante popular

    • Imagínate dentro de 5 años ;)
  • ¿Cuál será el objetivo final de Hugging Face? ¿Convertirse en el GitHub de la IA?

    • Soy el CEO de Hugging Face. Ojalá sea así si con ciencia abierta y código abierto podemos respaldar una buena democratización de la IA. ¿Te parece útil?
    • La interfaz se parece como en un 90% a GitHub, así que eso parece bastante obvio
      También están tratando de expandirse hacia el entrenamiento de modelos de IA y la ejecución de inferencia. Pero el costo de inferencia parece muy poco competitivo comparado con proveedores de GPU como CoreWeave
    • Sea lo que sea, de verdad, de verdad, de verdad, de verdad espero que no termine en manos de Microsoft, Google o similares. Aunque claro, al final probablemente pase eso y luego venga la enshittification
    • ¿No es ya así?
    • ¿Que lo compre AWS?
  • Me gusta que en redes sociales siga siendo alguien bastante accesible

  • ¿Por qué el Congreso se está metiendo incluso en temas como software, código abierto e IA?

  • Me gustaría saber si ha visto el proyecto Bittensor y cuál es su opinión. ¿Vale la pena considerar una integración?
    Creo que podría ayudar a cosas como este proyecto y al movimiento de IA open source

  • ¿No están la mayoría de los modelos en Hugging Face bajo esas extrañas licencias RAIL en vez de ser open source?

    • Al menos en GitHub, la mayoría de sus proyectos usan licencia MIT o Apache 2.0. ¿Se me escapó algo?