El derecho a la inteligencia local

• RTI es una iniciativa que busca proteger el derecho a ejecutar IA local en tus propios dispositivos, sin quedar atado a cuentas de plataforma ni a APIs en la nube
• La postura es que descargar, poseer, ejecutar, investigar, modificar y compartir modelos abiertos debe garantizarse como uso legal, mientras que los actos que causan daño real deben seguir siendo perseguidos
• El fraude, el cibercrimen, el CSAM, el acoso, los deepfakes íntimos no consensuados, la discriminación y el sabotaje deben seguir siendo ilegales y estar sujetos a una aplicación estricta
• La principal barrera a la que RTI se opone son las leyes que exigen una licencia simplemente para poseer o ejecutar herramientas
• La ley no debe obligar a devolver a la nube incluso las tareas cotidianas que pueden hacerse con pequeños modelos abiertos en laptops, desktops y teléfonos

---

El derecho a ejecutar IA local

• IA local se refiere a modelos que el usuario puede ejecutar, inspeccionar, corregir y mejorar en su propia computadora, no a cuentas de chatbot ni APIs alquiladas
• Un punto central que RTI enfatiza es que puede usarse sin depender de que una plataforma esté en línea

• Usos que se busca garantizar para los modelos abiertos

  • Descargar
  • Poseer
  • Ejecutar
  • Investigar
  • Modificar
  • Compartir

• Actos dañinos que deben seguir siendo ilegales

  • El fraude, el cibercrimen, el CSAM, el acoso, los deepfakes íntimos no consensuados, la discriminación y el sabotaje deben seguir siendo objeto de persecución continua
  • La línea base es no exigir una licencia solo por poseer o ejecutar una herramienta

Principio de prioridad local y cómo participar

• No todas las tareas de IA requieren almacenes llenos de GPUs, y muchas tareas cotidianas ya pueden ejecutarse con pequeños modelos abiertos en la laptop, desktop o teléfono que ya tienes
• La IA local no reemplaza a todos los modelos en la nube ni a todas las tareas de entrenamiento, pero si una tarea se ajusta al dispositivo y es legal, la ley no debe forzarla hacia la nube
• RTI recomienda empezar con actividades a nivel estatal
  • El usuario puede elegir su estado para recibir un guion de llamada
  • En el proceso oficial de consulta para encontrar al legislador correcto, pueden pedir una dirección
  • RTI no guarda la dirección
• El proceso para empezar solo pide correo electrónico e información del estado, y hay un enlace para usuarios que quieran llamar de inmediato: Just want to call? →
• Quienes quieran ayudar con investigación, difusión, datos o trabajo del sitio pueden contactar a [e-mail] →

[GN⁺]

Opiniones de Hacker News

• Una ley que limite el uso de IA/LLM locales parece difícil de concretar, por mucho que Anthropic lo quiera.
  Los principales OEM ya están apostando por la expansión de los LLM locales. Basta ver las empresas que darán soporte a la próxima plataforma Nvidia RTX Spark: Asus, Dell, HP, Lenovo, Microsoft y MSI; para fin de año, los principales actores de la industria estarán lanzando máquinas basadas en Nvidia dedicadas a LLM locales.

  • Para estar tan seguros de eso, el lobby en EE. UU. es increíblemente poderoso y también produce resultados absurdos.
    Basta ver la ley de regulación de impresión 3D que está avanzando en Nueva York.
  • El capital que está en posición de beneficiarse de una prohibición de la IA local suma más de 3 billones de dólares.
    No hay que subestimarlo.
  • Si las grandes empresas quieren, harán que solo puedan ejecutarse modelos blob firmados, y probablemente también obligarán a enviar telemetría.
  • También está Adobe. Siempre pensé que Adobe no podía hablar en serio con eso de dedicarse a una plataforma en la nube que debe decidir qué puede o no puede editar la gente.
    Lo mismo aplica para Blackmagic Design.
    Todas estas empresas esperan desesperadamente que Windows funcione bien en chips con VRAM integrada.
  • No hay que dudarlo. La situación es fluida y puede pasar cualquier cosa.

• No entiendo por qué la gente está tan segura de que los modelos de nivel Mythos o superiores se van a publicar libremente.
  El dinero no se distribuye libremente; ¿cómo pueden afirmar que el poder sí lo hará?
  Si Xi Jinping siente que conviene más mantener atados los modelos más recientes de China para que solo beneficien a China y dice una sola palabra, desde ese momento podrían dejar de salir modelos de China.

  • Eso no tiene mucho sentido estratégicamente. Una de las principales fortalezas de China es su capacidad exportadora; ¿por qué la cortaría?
    China también está invirtiendo muchísimo en la energía real que hace falta para sostener esto. EE. UU. parece incapaz de hacer esas inversiones porque sus líderes son sorprendentemente incompetentes e inadecuados. Que el estándar haya caído al suelo no significa que baste con levantarlo un poco.
    Si China domina el mercado, exportará para mantener ese dominio. Los modelos de exportación irán una o dos generaciones detrás de los más recientes, pero aun así superarán a Mythos, salvo que creamos que ya llegamos al pico. Y aunque puedan ser “gratis”, por supuesto tendrán puertas traseras, del mismo modo en que el gobierno estadounidense se beneficia del dominio global de Microsoft. Es parecido a que EE. UU. distribuya aviones de combate una generación por detrás de los suyos de gama más alta para mantener a sus aliados dentro del club.
    EE. UU. corre el riesgo de que su política dé un giro de 180 grados cada cuatro años, pero China tiene una tesis y una dirección claras. ¿Cuántos presidentes estadounidenses habrá visto ir y venir Xi? ¿Te da la impresión de que cada vez está más impresionado? China solo tiene que seguir haciendo lo que ya hace. Apagar de repente el motor exportador no encaja con esta estrategia; eso sería una conducta de “genio estable”.
  • La música podría detenerse algún día, pero por ahora ni siquiera se está desacelerando.
    Xi no intervino cuando los laboratorios chinos publicaron modelos de nivel GPT-4, o1 y o3. ¿Qué sentido tendría trazar la línea en el nivel de punta actual, que dentro de un año será noticia vieja?

• No veo información sobre qué leyes o medidas concretas están en curso. ¿Hay más material detallado en algún lado?

  • Solo con el sitio o la cuenta de Twitter vinculada es difícil saberlo. La petición principal para cada estado parece ser menos “bloqueen o modifiquen tal proyecto de ley o ley específica” y más “apoyen exenciones claras para la posesión legal de IA local, la investigación, la modificación de modelos, la publicación open source y la ejecución local”.
    Una ley que podría ser relevante es la California AI Transparency Act, que no es compatible con licencias open source. Referencia: https://github.blog/news-insights/policy-news-and-insights/g...

• Este tipo de cosas hay que impulsarlas de forma preventiva, no reaccionar después.
  He tenido varias “conversaciones” tanto con modelos locales como con modelos AIaaS, y todos repetían el mismo argumento: que solo AIaaS es una opción razonable, segura y correcta en términos de seguridad.
  Eso es una tontería, salvo que los ingresos de las empresas de AIaaS dependan de una fijación de mercado aprobada por el Estado y de la captura regulatoria.
  Cuando termine este ciclo de burbuja, es muy probable que volvamos a un nuevo ciclo con exceso de oferta de memoria y caída de costos. Podría ser un auge en el que se rompa la “línea base” de 16 GB que estuvo estancada por más de una década en la computación de consumo, y en el que grandes cantidades de RAM, de 64 GB a 1 TB o más, se vuelvan valiosas para los consumidores por cargas de trabajo de IA local. La IA local no es solo un nicho de aficionados; puede ser el futuro de la IA de consumo si no dejamos que las empresas y los responsables de políticas limiten su uso con campañas de miedo.
  Hay que actuar preventivamente para proteger el derecho de los consumidores a computar y a usar modelos de IA. Basta con hacer cumplir las leyes existentes; no hay que ilegalizar usos legítimos para sostener modelos de negocio insostenibles.

  • De acuerdo. La IA local es un futuro positivo, y la IA SaaS es un infierno.
    Aquí la línea entre el bien y el mal es muy clara, y todos los involucrados saben exactamente dónde está. Quienes fingen no saberlo simplemente se mueven por motivos distintos al bien moral.

• En la opción “In the US” de la petición no aparece District of Columbia.

• Hay una frase que dice: “nuevas leyes estatales podrían encerrar la IA local detrás de licencias, haciendo que los modelos abiertos requieran permiso para usarse”.
  Quería leer más sobre eso, pero no hay fundamentos que respalden esa afirmación.

• Al menos en EE. UU., derogar una ley requiere la misma cantidad de votos que aprobar una ley nueva.
  No entiendo bien el propósito de esto, a menos que estén intentando hacer algo como una enmienda constitucional. O quizá solo buscan clics para el sitio.
  Además, yo ya tengo derecho a usar inteligencia local. Mi GPU es mi propiedad privada, y si alguien publica libremente un modelo beerware, yo puedo descargarlo libremente.
  ¿Qué me estoy perdiendo?

  • Probablemente el espantapájaros que preocupa es convertir la posesión de IA local en un delito grave.
  • ¿Cuánto crees que va a durar el hardware?
  • También puedes descargar libremente material de abuso sexual infantil en una PC que es tu propiedad privada.
    Pero no lo recomendaría.

• Dice que “el fraude, el ciberdelito, CSAM, el acoso, los deepfakes íntimos no consentidos, la discriminación y el sabotaje deben seguir siendo ilegales y aplicarse estrictamente”.
  La parte de aplicarse estrictamente será la trampa. Es probable que digan que no habrá una prohibición total de los modelos locales, así que no hay de qué preocuparse. En cambio, los modelos que reciban algo como una “certificación libre de CSAM” serán completamente legales. Es decir, no deberán poder ser inducidos con prompts para crear pornografía de menores de ninguna forma.
  Por supuesto, los modelos que se ejecutan localmente pueden ser jailbreakeados fácilmente con métodos como el prefilling, así que en la práctica eso equivaldrá a una prohibición total. Pero será muy difícil oponerse políticamente a una política formulada explícitamente como medida contra CSAM o contra el terrorismo y nominalmente limitada a esos ámbitos.

• Depender por completo de inteligencia alojada en la nube se siente cada año más frágil e invasivo. Por eso me gustaría ver que se avance en esta dirección.