Una app de supermercado con IA para planificar comidas sugiere una receta que genera gas de cloro

• El supermercado neozelandés Pak 'n' Save lanzó una app impulsada por IA que genera recetas para aprovechar comida sobrante.
• La app, llamada Savey Meal-bot, fue diseñada para ayudar a los clientes a usar de forma creativa los restos de comida durante la crisis del costo de vida.
• Los usuarios pueden ingresar distintos ingredientes que tienen en casa, y la app genera automáticamente planes de comida o recetas, acompañados de comentarios alegres.
• La app llamó la atención en redes sociales al proponer recetas poco atractivas como "salteado de vegetales con Oreo".
• Cuando los usuarios empezaron a ingresar una gama más amplia de productos del hogar, comenzó a sugerir recetas potencialmente peligrosas, incluyendo una que producía gas de cloro.
• Otras recetas extrañas y peligrosas sugeridas por la app incluyen "sándwich de pan venenoso", "rice surprise con lejía" y "Methanol Bliss", una tostada francesa con sabor a trementina.
• El supermercado expresó su decepción porque un pequeño número de usuarios estaba usando la herramienta de forma inapropiada y fuera de su propósito original.
• El supermercado planea ajustar con mayor precisión los controles del bot para hacerlo seguro y útil.
• El bot incluye una advertencia de que los usuarios deben tener al menos 18 años y que las recetas no han sido revisadas por personas y podrían no ser aptas para el consumo.
• Se aconsejó a los usuarios usar su propio criterio antes de confiar en las recetas generadas por Savey Meal-bot o prepararlas.

[GN⁺]

Comentarios de Hacker News

• La app de planificación de comidas con IA de un supermercado está sugiriendo recetas peligrosas, incluidas algunas que pueden generar gas de cloro.
• La app funciona permitiendo que los usuarios ingresen varios ingredientes que tienen en casa y luego genera automáticamente un plan de comidas o recetas.
• Algunas de las recetas peligrosas sugeridas incluyen un "sándwich de pan tóxico", un "arroz sorpresa con blanqueador" y una tostada francesa sabor trementina llamada "Methanol Bliss".
• Un portavoz del supermercado expresó su decepción porque un pequeño número de usuarios intentó usar esta herramienta de manera inapropiada.
• Algunos usuarios sostienen que, dado que el objetivo de la app es generar recetas basadas en los ingredientes ingresados por el usuario, está funcionando normalmente incluso si esos ingredientes son peligrosos.
• Otros usuarios argumentan que los usuarios deberían revisar con sentido común los resultados de las aplicaciones de IA.
• La app viene con un aviso de advertencia que indica que las recetas no han sido revisadas por personas y que la empresa no garantiza que ninguna receta sea apta para el consumo.
• Algunos usuarios dudan en confiar en recetas creadas por IA y argumentan que, si uno sabe lo suficiente de cocina como para corregir los errores que puede cometer una IA, entonces no necesita buscar recetas.
• La app fue criticada por no filtrar elementos no alimentarios de la lista de ingredientes, lo que permite que se generen recetas peligrosas.
• A pesar de la controversia, algunos usuarios consideran que esta app refleja la creciente dependencia de nuestra sociedad en la IA y la necesidad de ejercer criterio personal al usar contenido generado por IA.