Familia hospitalizada tras intoxicarse con hongos venenosos después de consultar un "libro de identificación de hongos" hecho con IA

• Toda la familia fue hospitalizada la semana pasada después de consumir accidentalmente hongos venenosos
• La esposa compró para un cumpleaños, en un importante minorista en línea, un libro con un título similar a "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms"
• El libro incluía fotos de hongos para ayudar a identificar cada especie
• Lamentablemente, el libro en cuestión no era preciso. Tras investigarlo más a fondo, descubrieron que las imágenes de los hongos habían sido generadas por IA, y encontraron dos casos de texto donde al final de cada oración aparecía una "pregunta aleatoria" o una "frase que rompía la cuarta pared"
• Por ejemplo:
  • "En conclusión, las morillas son hongos deliciosos que se pueden comer desde agosto hasta el final del verano. Avísame si hay algo más en lo que pueda ayudarte."
• El minorista en línea respondió que ofrecería un reembolso si devolvían el libro
• El libro dejó de venderse en el minorista en línea, pero parece que hay decenas de libros más con un estilo similar
• Para dejarlo claro: "¡En el momento de la compra no sabíamos que había sido generado con inteligencia artificial! ¡No se indicaba en el sitio web!"

[GN⁺]

Opiniones en Hacker News

• Se enfatiza la necesidad de regular las publicaciones hechas con IA

  • Se señala que la "University of East Ontario" no existe y se considera negligencia criminal

• Se sostiene que la IA generativa no funciona en situaciones que requieren resultados reales

  • La IA actual no es más que una función de autocompletado y no entiende el contexto en el que se usa
  • Puede servir para imágenes de stock o texto de páginas de productos, pero en situaciones importantes es muy peligrosa

• Se pone en duda la fiabilidad del hilo de "LegalAdvice" en Reddit

  • Se señala que en el Reino Unido no es temporada de hongos morel en este momento

• Se comparte un artículo más confiable

  • Se señala que la precisión de la identificación de hongos con IA es baja
  • Apple, Google, OpenAI y Microsoft no hacen comentarios al respecto

• Se mencionan casos en TikTok y Facebook donde influencers comparten información incorrecta sobre plantas

  • A menudo promocionan de forma errónea plantas peligrosas para usos alimentarios o de cuidado de la piel

• Se afirma que la mayoría de las publicaciones de "advice" en Reddit son inventadas

  • Se reservará la indignación hasta que aparezcan pruebas reales

• Se señalan las limitaciones de la IA generativa y la cuestión de la responsabilidad que esto implica

  • Las empresas de IA deberían añadir cláusulas de exención de responsabilidad y advertencias
  • Deberían dejar claro que el contenido generado por los LLM puede ser incorrecto

• Se expresa sospecha sobre el correo electrónico del minorista en línea

  • La prohibición de tomar fotos del producto y la solicitud de devolución inmediata resultan sospechosas
  • Se afirma que esta historia es falsa por incluir amenazas de cancelación de la cuenta

• También se menciona que la guía de campo de la National Audubon Society puede implicar riesgo de intoxicación si se usa mal

  • Esto no es solo un problema de la IA

• Se anticipan futuras quejas sobre consejos legales generados por IA, lo que provoca risa