OpenAI suspende la cuenta de ByteDance por usar GPT para entrenar su propio modelo de IA

• OpenAI suspendió la cuenta de ByteDance
• Según se informa, ByteDance usó GPT para ayudar a entrenar en China su propio modelo competidor
• El vocero de OpenAI, Niko Felix, señaló que los clientes de la API deben usar la tecnología con fines beneficiosos, y anunció que, aunque el uso de la API por parte de ByteDance fue limitado, la cuenta fue suspendida para llevar a cabo una investigación
• ByteDance realizó la mayor parte de su uso de GPT a través de la plataforma Azure de Microsoft, y todavía no está claro si Microsoft también suspenderá el acceso de ByteDance como lo hizo OpenAI

Opinión de GN⁺

• Este artículo destaca los problemas éticos relacionados con el uso de la tecnología de inteligencia artificial y la importancia de la propiedad intelectual.
• Las acciones de ByteDance muestran cómo la competencia y la innovación en el sector tecnológico pueden, en ocasiones, poner a prueba los límites legales y morales.
• Este caso también envía una advertencia a otras empresas y recuerda que, al usar tecnología de IA, deben cumplirse políticas de uso claras y condiciones de licencia.

[GN⁺]

Opiniones de Hacker News

• Doble rasero sobre la infracción de derechos de autor

  Un usuario señala que es hipócrita que OpenAI use trabajos con derechos de autor de otras personas mientras niega esa misma posibilidad cuando se trata de sus propios trabajos. Aclara que no tiene conocimientos legales y dice sentirse confundido sobre la diferencia entre moralidad y ley.

• La versión más extrema del copyright

  Se critica que OpenAI pueda usar las imágenes y textos del mundo como datos de entrenamiento, pero que dentro de su sistema los competidores no puedan hacer lo mismo, calificándolo como la versión más rota del copyright que se pueda imaginar.

• Se plantean problemas de antimonopolio

  Además del copyright, también se plantean problemas de antimonopolio. Los tribunales por lo general respaldan las cláusulas que prohíben la ingeniería inversa, pero copiar interfaces suele verse con mejores ojos porque fomenta sustitutos en el mercado. Es una cuestión nueva si OpenAI puede restringir el uso de las salidas de una herramienta que claramente pone a disposición de sus clientes. También se compara con cuando una licencia de base de datos impide a los clientes publicar comparaciones, algo que podría ser anticompetitivo. La política antimonopolio suele estar motivada sobre todo en mercados maduros donde un actor domina el mercado. Sin embargo, se cuestiona si ese mismo análisis aplica en un mercado en crecimiento. Si el mercado crece con rapidez, la preocupación podría atenuarse porque el dominio es incierto. Por otro lado, si el mercado es especialmente vulnerable a la captura, los primeros líderes podrían requerir más atención. Además del efecto primario del monopolio sobre la reducción de la competencia, un efecto secundario puede ser una menor inversión en competidores, generando efectos anticompetitivos. Estas preocupaciones pueden ser mayores en las primeras etapas del mercado. El usuario se pregunta si existe algún blog de abogados sobre el tema.

• Bloqueo de competidores y colaboración con el peor periódico de Alemania

  Se señala que OpenAI bloquea a los competidores, colabora con el peor periódico de Alemania y que MS tiene un asiento en la junta de OpenAI. Se insinúa que el regreso de Altman realmente está saliendo de maravilla.

• Política de uso de la API y uso “bueno” de la tecnología

  Se menciona que ByteDance usó mínimamente la API de OpenAI, pero que OpenAI suspendió su cuenta para realizar una investigación adicional. OpenAI enfatiza que todos los clientes de la API deben cumplir políticas de uso que exigen emplear la tecnología con fines “buenos”. Se señala que la palabra “bueno” suena positiva para mucha gente, pero siempre existe una zona gris que para otros puede parecer malvada.

• Debate sobre uso indebido en una plataforma interna de comunicación

  Se afirma haber visto a empleados de ByteDance discutir en Lark, su plataforma interna de comunicación, “cómo diluir la evidencia”. También se menciona que el uso indebido estaba tan extendido que empleados de Project Seed llegaban regularmente al límite de acceso de la API. Cuando uno se pregunta por qué otros modelos parecen alcanzar rápidamente a GPT-3.5 pero no superan a GPT-4, conviene recordar la posibilidad de que simplemente estén entrenando con salidas de GPT-3.5 o incluso mintiendo.

• Bootstrapping usando modelos de los grandes jugadores

  Cuando IBM Watson era lo nuevo y de moda, alguien se preguntaba qué tan fácil sería usar los modelos de los grandes jugadores para hacer bootstrapping de su propio modelo. Con la llegada de OpenAI parecía que eso ya no sería necesario, pero la situación cambió cuando decidieron dejar de publicar modelos. Aun así, Llama y muchos otros han tomado la posta. Parece una forma interesante de mejorar modelos.

• La imposibilidad de impedir la extracción de modelos

  Se señala que si ByteDance o cualquier otra persona tiene suficiente motivación para intentar extraer el modelo de OpenAI, no hay forma de impedirlo. Incluso podrían delegar la recolección de datos a otras personas.

• Pregunta sobre cómo entrenar y replicar un modelo mediante la API

  Un usuario pide que le expliquen cómo se puede entrenar un modelo propio usando un modelo existente accesible solo vía API, como ChatGPT, y cómo se pueden copiar algunos de sus aspectos. Expresa que no tiene una comprensión intuitiva de cómo empezar una lista de prompts que cubra todo el conocimiento ni de cómo distinguir entre salidas útiles y alucinaciones sin sentido. Siente que se está perdiendo detalles importantes que el artículo y los enlaces no explican.

• Sátira sobre por qué OpenAI suspendió la cuenta de ByteDance

  Sobre la suspensión de la cuenta de ByteDance por entrenar su propio modelo de IA usando GPT, se lo describe satíricamente como un niño que roba dulces de una tienda y luego se queja de que su hermano menor le robe esos mismos dulces.