X/Twitter actualiza sus términos para permitir el uso de publicaciones en el entrenamiento de IA

 (stackdiary.com)
1 puntos por GN⁺ 2023-09-02 | 1 comentarios | Compartir por WhatsApp
  • Los nuevos Términos de Servicio de X/Twitter permiten usar las publicaciones de los usuarios para entrenar IA, y el punto de conflicto es que X, que había bloqueado a scrapers externos, ahora amplía el alcance del uso de sus propios datos
  • En el pasado, Elon Musk cuestionó el uso de datos de Twitter por parte de Microsoft, pero ahora X se mueve en una dirección que le permite aprovechar el contenido de los usuarios para el entrenamiento de modelos de IA
  • La invitación dirigida a periodistas para publicar directamente en X, junto con la estructura de colaboración entre xAI, X y Tesla, alimenta la preocupación de que los datos de X puedan convertirse en una fuente continua de datos para xAI
  • La definición basada en IA de los términos actualizados puede derivar en limitaciones o bloqueos de acceso al contenido, lo que podría afectar la visibilidad de ciertos tuits, hashtags y la difusión del contenido
  • La experiencia en la plataforma podría parecerse menos a un espacio público igual para todos y más a un entorno personalizado que varía según la identidad del usuario definida por la IA

El cambio en los términos de X/Twitter y el uso de datos que busca

  • Los nuevos términos permiten usar las publicaciones de los usuarios para entrenar IA
  • Este cambio se alinea con una tendencia en la que varias empresas han enfrentado controversias en torno a los datos de entrenamiento para IA y sus términos de uso
    • Brave es mencionado junto con la polémica por la venta de datos con copyright para entrenamiento de IA
    • Zoom aparece como un caso de cambio de términos para usar contenido de usuarios en el entrenamiento de IA
    • AWS se compara por una estructura en la que el valor predeterminado es optar por participar (opt-in) en el uso de datos relacionado con servicios de IA
  • X ha venido tomando medidas para aislar la plataforma de scrapers externos, y desde el lanzamiento de xAI, el punto central del debate es que los datos de X pueden usarse para entrenar IA

La relación entre Elon Musk, xAI y el contenido de los usuarios

  • En el pasado, Elon Musk dijo que Microsoft usó datos de Twitter de forma ilegal, e incluso mostró la postura de llevar a Microsoft a los tribunales
  • Ahora que X cambió sus términos en una dirección que permite usar contenido de usuarios para entrenar IA, surgen críticas de que los usuarios terminarán contribuyendo al negocio de IA de Musk sin autorización ni compensación adicional
  • Musk llegó a decirles a periodistas que, si querían más libertad y mayores ingresos, publicaran directamente en X
    • Esa declaración puede interpretarse como parte de una dinámica orientada a concentrar en X información exclusiva e interesante, y luego usar esos datos para entrenar modelos
  • La página principal de xAI indica que, aunque xAI es una empresa separada de X Corp, colabora estrechamente con X (Twitter), Tesla y otras
  • Bajo la premisa de que en la IA la calidad y singularidad de los datos pueden convertirse en un cuello de botella, los datos de X podrían funcionar como una fuente continua de suministro para xAI

Cambios que podrían aparecer en la experiencia del usuario

  • Según la definición basada en IA de los términos actualizados, el acceso del usuario a cierto contenido podría limitarse o bloquearse
    • Algunos tuits o hashtags podrían dejar de verse
    • El propio contenido podría tener más dificultades para llegar a una audiencia más amplia
  • En Twitter ya hubo controversias sobre shadow banning, pero la automatización y la intervención de la IA podrían operar de formas más sofisticadas y extensas
  • Este tipo de dinámica podría no quedarse solo en Twitter, sino expandirse a todo internet
    • Resultados de búsqueda de Google
    • Exposición de noticias en el feed de Facebook
    • Rutas y opciones que los usuarios pueden ver
  • No necesariamente se reducirían las rutas del internet en sí, pero la experiencia individual podría estrecharse a medida que algunas rutas se ocultan o se muestran según la identidad del usuario definida por la IA
  • Twitter podría parecerse menos a una experiencia universal igual para todos y más a un espacio personalizado definido por algoritmos de IA

Lecturas relacionadas

1 comentarios

 
GN⁺ 2023-09-02
Opiniones de Hacker News

  • Musk ha estado obsesionado con ver Twitter como una mina de datos para entrenar IA, y se ha quejado a menudo de que las empresas de IA usan datos de Twitter con fines de entrenamiento.
    Yo pensaba que empresas como OpenAI no apuntaban específicamente a Twitter, sino que Twitter quedaba incluido al rastrear la web, y me pregunto si los datos de Twitter realmente son tan valiosos.
    No tengo claro qué características los hacen especialmente útiles frente a otros datasets públicos.

    • Los datos de Twitter tienen (1) marcas de tiempo precisas y (2) un flujo constante de datos nuevos sobre acontecimientos recientes.
      En el mundo angloparlante casi no hay fuentes parecidas aparte de Reddit.
      Ninguna de las dos cosas parece directamente relevante para arquitecturas tipo GPT, pero es posible que futuras arquitecturas de modelos puedan aprovecharlas.
      Desde el punto de vista de la teoría de la información, las marcas de tiempo y el orden relativo de los tuits también contienen una cantidad de información distinta de cero.
    • No creo que Twitter sea un gran lugar para extraer datos de entrenamiento en general.
      La mayor parte de los datos no está bien estructurada ni etiquetada, la relación señal/ruido es baja, y los textos suelen ser cortos y depender mucho del contexto.
      Twitter también fracasó en gran medida como plataforma de videos cortos, y aunque hay indicios de que intentó crear feeds algorítmicos basados en intereses/temas, rara vez tuvieron buena calidad.
      Sus ventajas son la frescura y la escala, pero con una infraestructura sólida de rastreo web eso parece posible incluso sin Twitter.
      La generación actual de grandes modelos de lenguaje, al menos por ahora, no aprovecha bien la frescura a escala de minutos.
    • Los datos de Twitter son muy valiosos para generar contenido tipo tuit: frases cortas e independientes, imágenes, videos y cosas así.
      Sin embargo, hoy en Twitter no hay muchos datos parecidos a contenido de formato largo como ensayos, artículos de noticias, libros o papers científicos.
      Por eso quizá Twitter/X haya intentado reunir ese tipo de datos aumentando el límite de longitud de los tuits.
    • Si Twitter es la mina de datos de usuarios que Elon cree que es, me pregunto por qué la segmentación publicitaria de Twitter es muchísimo peor que la de Facebook o Instagram.
    • Twitter tiene la base de datos de tuits más grande.
      Si quieres una IA que escriba tuits, no hay nada mejor.
      Twitter podría ofrecer un servicio que elimine la necesidad de community managers: le das un comunicado de prensa o el sitio web de un producto y te genera un flujo pulido de tuits publicitarios, o incluso publicaciones para manipular la opinión pública.

  • Este cambio no se limita a Twitter; muestra lo que podría convertirse en el nuevo estándar de internet.
    Google/Gmail/YouTube, Amazon, Microsoft, TikTok y cualquier plataforma de internet que maneje contenido generado por usuarios pronto harán lo mismo.
    Si es que no lo están haciendo ya.

    • GMail ya ha usado datos de usuarios para varios fines de IA, como clasificación y minería de datos.
      Me sorprendería bastante si los datos procesados de GMail, tras procedimientos como la eliminación de información sensible, no se estuvieran usando para entrenar LLM u otros proyectos de IA.
    • Lo vienen haciendo desde hace años.
      Todo lo que subes a un servidor se convierte en fuente de entrenamiento.
      A mediados y fines de la década de 2010, en FB Messenger, los modelos de recomendaciones y respuestas automáticas se entrenaban con todo el corpus de mensajes no cifrados intercambiados entre usuarios.
    • Esa fue una de las principales razones por las que elegí Proton Mail cuando dejé de autoalojar y tuve que escoger un servicio de correo whitelabel.
      No hay nada que puedan raspar del lado del servidor.
    • Que Google haga esto es una ironía enorme.

  • Los términos ahora también incluyen una renuncia a demandas colectivas.

    • No entiendo cómo una cláusula así puede ser legal.
      Sinceramente, eso me incomoda más que la cláusula de entrenamiento de IA.
      Me parece menos problemático entrenar IA que vender la atención de la gente a los anunciantes.

  • Ah, ahora entiendo.
    Durante unos segundos me pregunté cómo el sistema de ventanas X usa datos para IA.

    • Estaría bueno que otras grandes empresas también acortaran los nombres de sus servicios principales para aumentar aún más la confusión.

  • Cuesta imaginar algo peor en el mundo que una IA entrenada con lo que tuitean los usuarios de Twitter.

    • Espero con ansias el día en que agregue a mi lista de bloqueados las opiniones candentes de toda clase de bots que imitan a pensadores.

  • Lo hicieron porque la otra empresa de Elon, xAI, necesita estos datos.

  • Casi todos los términos permiten usar datos para mejorar el producto.
    “Reemplazar unas cuantas heurísticas flojas por un modelo enorme de IA” me parece una mejora del producto.
    Por lo tanto, en la práctica ya podían entrenar modelos de IA con datos de usuarios.

    • Es probable que estos términos fueran necesarios para impedir escenarios de uso público en los que alguien pudiera alegar propiedad o violación de privacidad incluso en foros públicos.

  • ¿Lo hacen para entrenar un chatbot? Creía que Elon había dicho que iba a eliminar los bots.

    • Podrían usarlo para hacer heaven ban a la gente: https://cosmosmagazine.com/technology/internet/heaven-bannin...
      El CEO podría aplicárselo a Elon para mantenerlo tranquilo.
    • ¿Te refieres al tipo que hizo autos autónomos, cohetes que aterrizan solos y robots humanoides espeluznantes que caminan torpemente? Sí, seguro odia todo lo automatizado.
    • Seguramente quiso decir que eliminaría los bots de los demás.

  • Hay 0% de probabilidad de que el comportamiento de los consumidores, organizado o individual, cambie lo que pase a partir de aquí.
    Al final, todo depende de la ley de propiedad intelectual y áreas cercanas.
    No hay muchas razones para esperar una acción deliberada aquí.

    • Los consumidores pueden dejar de consumir.
      Ya sea el antiguo Twitter o como sea que lo llamemos ahora.
    • ¿Seguro?
      ¿Y si el comportamiento de los consumidores consiste en contaminar el dataset?

  • Todos seremos consumidos por la máquina de IA.
    “Toda capacidad se crea a partir del análisis de datos, y los datos que analizan eres tú. Con intención directa o no, todo avance invade en dirección a devorar cada hecho e inferencia que pueda conocerse sobre ti. Para manifestar ese poder, tu alma debe ser sacrificada a la máquina.”
    https://www.mindprison.cc/p/ai-end-of-privacy-end-of-sanity