3 puntos por GN⁺ 2024-08-17 | 1 comentarios | Compartir por WhatsApp
  • Toda la familia fue hospitalizada la semana pasada después de consumir accidentalmente hongos venenosos
  • La esposa compró para un cumpleaños, en un importante minorista en línea, un libro con un título similar a "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms"
  • El libro incluía fotos de hongos para ayudar a identificar cada especie
  • Lamentablemente, el libro en cuestión no era preciso. Tras investigarlo más a fondo, descubrieron que las imágenes de los hongos habían sido generadas por IA, y encontraron dos casos de texto donde al final de cada oración aparecía una "pregunta aleatoria" o una "frase que rompía la cuarta pared"
  • Por ejemplo:
    • "En conclusión, las morillas son hongos deliciosos que se pueden comer desde agosto hasta el final del verano. Avísame si hay algo más en lo que pueda ayudarte."
  • El minorista en línea respondió que ofrecería un reembolso si devolvían el libro
  • El libro dejó de venderse en el minorista en línea, pero parece que hay decenas de libros más con un estilo similar
  • Para dejarlo claro: "¡En el momento de la compra no sabíamos que había sido generado con inteligencia artificial! ¡No se indicaba en el sitio web!"

1 comentarios

 
GN⁺ 2024-08-17
Opiniones en Hacker News
  • Se enfatiza la necesidad de regular las publicaciones hechas con IA

    • Se señala que la "University of East Ontario" no existe y se considera negligencia criminal
  • Se sostiene que la IA generativa no funciona en situaciones que requieren resultados reales

    • La IA actual no es más que una función de autocompletado y no entiende el contexto en el que se usa
    • Puede servir para imágenes de stock o texto de páginas de productos, pero en situaciones importantes es muy peligrosa
  • Se pone en duda la fiabilidad del hilo de "LegalAdvice" en Reddit

    • Se señala que en el Reino Unido no es temporada de hongos morel en este momento
  • Se comparte un artículo más confiable

    • Se señala que la precisión de la identificación de hongos con IA es baja
    • Apple, Google, OpenAI y Microsoft no hacen comentarios al respecto
  • Se mencionan casos en TikTok y Facebook donde influencers comparten información incorrecta sobre plantas

    • A menudo promocionan de forma errónea plantas peligrosas para usos alimentarios o de cuidado de la piel
  • Se afirma que la mayoría de las publicaciones de "advice" en Reddit son inventadas

    • Se reservará la indignación hasta que aparezcan pruebas reales
  • Se señalan las limitaciones de la IA generativa y la cuestión de la responsabilidad que esto implica

    • Las empresas de IA deberían añadir cláusulas de exención de responsabilidad y advertencias
    • Deberían dejar claro que el contenido generado por los LLM puede ser incorrecto
  • Se expresa sospecha sobre el correo electrónico del minorista en línea

    • La prohibición de tomar fotos del producto y la solicitud de devolución inmediata resultan sospechosas
    • Se afirma que esta historia es falsa por incluir amenazas de cancelación de la cuenta
  • También se menciona que la guía de campo de la National Audubon Society puede implicar riesgo de intoxicación si se usa mal

    • Esto no es solo un problema de la IA
  • Se anticipan futuras quejas sobre consejos legales generados por IA, lo que provoca risa