Producción de contenido impulsada por IA de AdVon y uso de escritores falsos
- Escritores de países en desarrollo trabajaban como contratistas en AdVon Commerce, cobrando apenas unos centavos por palabra para redactar reseñas de productos en línea
- El rol de los escritores pronto cambió a pulir borradores generados por el sistema de IA que AdVon estaba desarrollando, llamado "MEL"
- A los escritores se les pidió dejar notas detalladas sobre el trabajo de MEL, que ellos creen que se usaron para ajustar finamente la IA que eventualmente reemplazaría su propio trabajo
- Una vez que MEL "estuvo lo suficientemente entrenado como para escribir por sí solo", los escritores fueron despedidos
- Un escritor dijo que "sufrió bastante" y que "eran explotadores"
Casos del uso de autores falsos por parte de AdVon
- Un empleado de Gannett detectó que en el sitio web de USA Today se publicaban reseñas de productos con firmas que no parecían corresponder a personas reales
- En Sports Illustrated, AdVon también operaba de forma similar usando firmas de autores falsos y fotos de perfil generadas por IA
- AdVon no negó que las firmas fueran falsas ni que las fotos de perfil hubieran sido generadas por IA, pero aseguró que los artículos reales sí habían sido escritos por personas reales
Publicación generalizada del contenido de AdVon
- Los autores falsos y sus textos de AdVon fueron encontrados ampliamente, desde medios de chismes de celebridades como Hollywood Life y Us Weekly hasta periódicos reconocidos como LA Times
- McClatchy terminó su relación con AdVon y eliminó cientos de artículos de AdVon en más de 20 periódicos, incluidos Miami Herald y Sacramento Bee
- En el pasado, el sitio web de AdVon decía colaborar con muchos medios conocidos, entre ellos PC Magazine, Mashable, AskMen, Good Housekeeping, People, Parents, Food & Wine, InStyle, Real Simple, Travel + Leisure, Better Homes & Gardens y Southern Living
Video de demostración de la generación de reseñas con la IA MEL de AdVon
- Un gerente de AdVon muestra cómo la IA MEL genera todas las palabras de un artículo con solo ingresar el título del texto y un enlace de producto de Amazon
- El trabajo de MEL suele ser torpe, ambiguo y a veces incluso se contradice a sí mismo
- Si la salida no se entiende, el gerente simplemente indica que se genere una nueva versión
- "Nuestro objetivo es que no suene como si lo hubiera escrito un robot", dijo el gerente
Baja calidad y errores extraños en las reseñas de AdVon
- Las reseñas de AdVon están llenas de relleno y obviedades, y a veces incluyen errores tan extraños que cuesta creer que una persona las haya revisado seriamente antes de publicarlas
- A veces el tema cambia abruptamente sin explicación, como pasar de una reseña de cinturones para levantamiento de pesas a hablar de cinturones de ropa, o de una reseña de microondas a hornos convencionales
- En otras reseñas de microondas del mismo autor se repiten errores similares, como afirmar que está bien usar papel aluminio en un microondas
Asignación de autores falsos y reemplazo por firmas de personas reales
- Una vez terminado un artículo, ponerle el nombre de un autor falso era parte del trabajo de personas dentro de AdVon
- Después de que un empleado de Gannett señalara a los autores falsos de AdVon en USA Today, los nombres falsos comenzaron a desaparecer y fueron reemplazados por nombres que parecían de personas reales, en especial de gente con vínculos personales con el CEO de AdVon, Ben Faw
- Apareció la firma de Julia Yoo, quien parece ser la esposa de Ben Faw, y cuyo historial —título del MIT, cargo ejecutivo en Autodesk y experiencia como asesora económica de la Casa Blanca durante el gobierno de Obama— resultaba desproporcionadamente brillante en comparación con otros empleados de AdVon
- También apareció la firma de Denise Faw, quien parece ser la madre de Ben Faw
Reseñas patrocinadas de AdVon a través de SellerRocket
- El CEO de AdVon, Ben Faw, y su presidente, Eric Spurling, también operan otra empresa llamada SellerRocket, que cobra a vendedores de productos de Amazon por promoción en los mismos medios donde AdVon publica reseñas de productos
- Empleados de SellerRocket explican con bastante franqueza en videos de YouTube cómo funciona este esquema
- Los productos de clientes de SellerRocket se marcan en el CMS de AdVon con "un lindo icono de cohete" y "siempre reciben prioridad"
Trayectoria del CEO de AdVon, Ben Faw, y sus prácticas de negocio
- Faw tiene una trayectoria llamativa, pero según excolegas, estaba constantemente intentando ganar más dinero con contenido de baja calidad
- Según ellos, Faw "despreciaba por completo a los consumidores" y "solo se preocupaba por encontrar formas rápidas y baratas de ganar más dinero para sí mismo"
- Faw intentó influir en la cobertura enfatizando sus relaciones personales y comerciales con altos directivos de la empresa matriz de Futurism
Cambios y contradicciones en las afirmaciones de AdVon
- Al principio AdVon negó usar IA, pero cuando se le mostró evidencia en video de reseñas generadas por IA, admitió que sí la usaba para algunos clientes
- Los registros de edición de artículos proporcionados por AdVon no resultan convincentes, ya que muestran velocidades de redacción demasiado rápidas como para parecer trabajo humano
- AdVon afirma que la IA MEL no estuvo operativa hasta 2023, pero los perfiles de LinkedIn de empleados contradicen esa versión
- AdVon sostiene que no despidió escritores por la transición a la IA, pero la cantidad de escritores en LinkedIn parece haberse desplomado
Reacción de los lectores al contenido con IA y tendencia de la industria
- En una encuesta realizada poco después del caso de los autores falsos de Sports Illustrated, el 80% de los encuestados respondió que esto debería volverse ilegal
- El periodismo es una industria basada en la confianza, pero en el laberinto de autores falsos y amenazas legales de AdVon, se vuelve difícil confiar incluso en preguntas básicas como si el autor es una persona real o si la IA generó el artículo
- Algunos medios están explorando formas honestas de usar IA, pero la mayoría de los experimentos ha tropezado con problemas como errores y posibles plagios
- En el peor de los casos, la IA amenaza con permitir que estafadores produzcan en masa contenido de baja calidad a una escala sin precedentes, cubriendo toda la web de spam
- Que empresas como AdVon expulsen a escritores mientras bombean contenido pésimo con IA no sorprende, pero que medios de confianza lo distribuyan es una tragedia de la era de la IA
1 comentarios
Entonces, ¿de verdad la única respuesta será obligar a crear cuentas con verificación de identidad basada en un número único asignado a cada persona, como en Corea o China...? Da miedo.