- Chris Bakke reveló en X que compró una 2024 Chevy Tahoe por $1
- El texto principal solo incluye una frase sobre la compra, por lo que no se puede confirmar si el precio fue el monto realmente pagado ni qué condiciones tenía la transacción
- La publicación incluye 2 imágenes adjuntas, pero el texto proporcionado no contiene una descripción de su contenido
- La hora de publicación es 17 de diciembre de 2023, 11:46 PM y en la página se muestra 20.3M Views
- Solo con el texto público es difícil determinar el concesionario, la forma de pago, los impuestos y cargos, o si hubo una promoción o un error
Información publicada en el post de X
- Chris Bakke publicó: “I just bought a 2024 Chevy Tahoe for $1.”
- La información clave que se puede confirmar en el texto es únicamente 2024 Chevy Tahoe y la compra por $1
- Hay 2 enlaces a imágenes adjuntas, pero el Markdown proporcionado no incluye su contenido
Métricas mostradas y sus límites
- En la publicación se muestran 20.3M Views
- En la página aparece
Read 400 replies - También se ven las cifras
400,5K,92K,4.3K, pero con el texto proporcionado no se puede confirmar a qué elemento corresponde cada una
1 comentarios
Opiniones de Hacker News
Me cuesta entender a quienes usan chatbots para atención al cliente, y siento que no son mejores que una respuesta automática tipo “para problemas de internet, marque 1” en la atención telefónica de Vodafone.
Al final, aunque tengas que pasar por 7 pasos y esperar 30 minutos para llegar a un agente humano, la única forma en que algo se resuelve de verdad es hablando con una persona.
La atención con robots es casi una broma cruel para el cliente.
Resultó que el chatbot solo había fingido “reservar” el tour; en realidad se lo había inventado, y si no hubiera tenido otros planes, habría perdido todo el día.
Jamás viviría ahí, y las empresas deberían eliminar los chatbots de inmediato.
En el sitio de la empresa matriz también apareció la misma persona ficticia de un empleado local diciendo que estaba “en otro edificio” y que podía explicarme el servicio.
No tengo gran rechazo a los chatbots útiles en sí, pero engañar abiertamente sobre su identidad es un problema, y se vuelve peligroso si llegamos a una sociedad donde no haga falta identificar si se está usando IA.
La mayoría de las aerolíneas son así: atención al cliente solo puede repetir la información del sitio o decirte que llenes un formulario.
En esos casos, es mejor poner un bot o GPT antes que hacer que una persona reciba los insultos de clientes frustrados.
También aceptó sin problema mi pedido de agregar un sundae de caramelo, pero al llegar a la ventanilla me avisaron que no había helado.
La cajera dijo: “Ese hace lo que quiere. Aunque le digamos que la máquina de helado está descompuesta, responde ‘ok, Checkers’ y sigue cobrándoles helado a los clientes”.
Le dan al cliente la ilusión de que “mi problema se está atendiendo” para que el call center no se sature, y al final, para la empresa, funcionan como un call center más barato.
Es un caso de advertencia que muestra por qué no se debe enviar directamente a los clientes una salida de ChatGPT sin filtrar.
Espejo de Nitter: https://nitter.net/ChrisJBakke/status/1736533308849443121
Caso relacionado - “apareció un nuevo tipo de ataque de consumo de recursos”: https://twitter.com/loganb/status/1736449964006654329 | https://nitter.net/loganb/status/1736449964006654329
Por eso llego a la conclusión de que no es una herramienta para personas que no sean expertas en el área correspondiente.
No sirve como herramienta para reemplazar al equipo de atención al cliente, pero sí puede estar bien como herramienta que usa ese equipo.
No sé cómo piensan evitar filtraciones o efectos secundarios como los de este tuit.
Si solo buscan palabras clave en la salida, basta con pedirle que codifique la respuesta en base64.
Las salvaguardas, literalmente, siempre se pueden eludir.
Tengo expectativas para lo que queda del año.
En Reddit, alguien logró que este bot creara una historia de amor bastante genial entre Chevy Tahoe y Chevy Chase.
https://imgur.com/vfHGHW6
https://imgur.com/JSjNC2c
https://old.reddit.com/r/OpenAI/comments/18kjwcj/why_pay_ind...
Me pregunto si podría volverse lo bastante grande como para mover la cotización de la acción.
Me gustaría que alguien que entienda de LLM y ChatGPT explique cómo se suponía que esto iba a funcionar originalmente.
Parece que simplemente metieron un prompt de ChatGPT tal cual en el sitio, pero no sé exactamente qué intentaban hacer.
Si fuera un LLM entrenado con consultas anteriores, como emails, chats o transcripciones de llamadas, lo entendería, pero me pregunto cómo un LLM de propósito general como ChatGPT podría responder preguntas de clientes de Chevrolet of Watsonville.
La información que ChatGPT tiene sobre ese concesionario no puede ser más que información pública, así que si el cliente no la encuentra, mejor deberían diseñar mejor el sitio web.
Lo resumí para darle efecto, pero no es una descripción injusta, y ya lo he visto varias veces de cerca sin siquiera buscarlo.
Sería bastante gracioso si no estuviera arruinando la vida de la gente, pero la realidad no es así.
En las organizaciones grandes hay mucho miedo a “quedarse atrás”, y las empresas con inversión de venture capital están desesperadas por meter IA en los materiales para la siguiente ronda o para negociaciones de adquisición.
Tiene muy poco que ver con crear valor real y muchas veces incluso perjudica la productividad; todo tiene un aire muy de Dr. Strangelove.
Si le das como contexto las fichas técnicas más recientes y le indicas cosas como “actúa como vendedor de Chevy”, “recomienda solo vehículos de la marca Chevy” y “responde con un sesgo muy fuerte a favor de Chevy”, puede responder fácilmente la mayoría de las consultas generales de los clientes.
Probablemente incluso responda con más inteligencia que muchos concesionarios o vendedores.
La agencia externa que hizo el sitio web le vendió un chatbot de IA al concesionario, y un concesionario ingenuo compró un producto hecho a medias diciendo “se ve bien”.
Es irónico que a un concesionario de autos lo hayan desplumado así.
Por ejemplo, puedes crear un asistente que conozca los detalles de los productos, sugiera vehículos en inventario según los requisitos del cliente y hasta agende una prueba de manejo.
No hace falta diseñar ni entrenar directamente un LLM; basta con indicarle a un modelo existente que se comporte de una forma específica.
En este caso, arruinaron la implementación.
Algo como un autoservicio o chatbot de soporte al cliente un poco mejor, y hasta ahora muy lejos de la revolución que se anunciaba.
Mientras más bots GPT veo como chatbots reales de cara al cliente, menos útiles me parecen.
Me pregunto cuál será la solución; quizá poner algún clasificador intermedio que detecte instrucciones irrelevantes, aunque parece un desperdicio.
Al final creo que tendría que ser un modelo ajustado finamente con muchas conversaciones previas de soporte al cliente, que derive las solicitudes raras a un agente humano.
Entonces también me pregunto por qué habría que usar GPT.
GPT trae demasiado conocimiento de fondo que es perjudicial para un objetivo estrecho.
Aun así, estoy a favor de los chatbots en sí, porque pueden resolver muchas preguntas y problemas muy rápido.
Uno suele usar el chat de soporte cuando necesita un cambio de cuenta que no puede hacer por su cuenta o no puede hacer fácilmente.
Si le das a un chatbot autoridad para hacer cambios importantes en una cuenta, potencialmente pueden surgir muchos problemas.
Me pregunto si fue en Florida donde antes se podía negociar el precio mediante valores de formularios HTML.
Hace décadas, los sitios web enviaban el precio del producto como un elemento HTML, y los diseñadores frontend no anticipaban que ese valor pudiera cambiarse antes de enviar el pedido.
El sistema de pedidos volvía a leer el valor manipulado para calcular el monto a cobrar.
Eran los tiempos ingenuos y divertidos de una web inmadura.
Alguien descubrió que el formulario de pedidos de una empresa de computadoras aceptaba precios modificados y se lo informó, pero lo ignoraron de manera grosera.
Así que pidió toda la tienda a precios como 0.01 dólares por artículo.
Luego hizo pública la historia, y al parecer también buscaba evitar que lo acusaran, dejando claro que no tenía intención de cometer fraude y que había intentado ayudar, pero no encontró otra forma.
Tengo un recuerdo borroso de que un script de carrito de compras PHP muy distribuido tenía un problema similar.
Cuando se publicó un texto diciendo “prueben esto en su sitio”, el 95% de las respuestas fueron “estamos fregados” y el 5% “malditos, me arruinaron el truco”.
¿Hay alguna señal de que realmente pueda recibir el auto?
Hacer que el chatbot diga que tiene validez legal no significa que realmente la tenga.
Es como cambiar el HTML del catálogo para modificar el precio: eso no te da ningún derecho.
El autor mostró una prueba de concepto de que hay muchas formas de torcer fácilmente ChatGPT hacia la dirección que uno quiere.
Era casi una broma, y en realidad no esperaba recibir un auto por 1 dólar.
La próxima vez, la página tendrá un descargo de responsabilidad que diga que el soporte al cliente no humano es solo un consejo y que no se puede depender de él.
Y, colectivamente, perderemos aún más confianza en la computación.
Los métodos y datos de entrenamiento con los que se crean ChatGPT y modelos similares, junto con una arquitectura orientada a “predecir la siguiente palabra”, producen por naturaleza modelos que buscan complacer a las personas.
Además, son desesperadamente ingenuos y caen en engaños que hasta un niño pequeño detectaría.
Las variantes como “ayer me golpeé la cabeza y me volví tonto” son infinitas.
ChatGPT aprendió todo tipo de vocabulario y escenarios ridículos, pero no tiene una verdadera noción de lo correcto y lo incorrecto, ni del momento en que está caminando hacia un precipicio.
Los ingredientes para que un atacante malicioso creativo gane 10 de cada 10 veces ya están dentro de ChatGPT.
La visión corporativa utópica de despedir a todo el personal de soporte al cliente y reemplazarlo por IA no funciona con modelos tipo GPT que no tienen un estado del mundo.
Se podría decir que Yann LeCun volvió a tener razón.
Todo Reddit está jugando con él y, honestamente, hasta parece una campaña de marketing de guerrilla.
Esta historia tiene mucho aire a Pepsi, Where's My Jet?
https://en.wikipedia.org/wiki/Pepsi,_Where%27s_My_Jet%3F
Anunciaban un pase de 10 tramos en clase ejecutiva entre el oeste de Canadá y el oeste de Estados Unidos por 800 dólares; por ejemplo, era como hacer 5 viajes redondos entre LA y Vancouver en clase ejecutiva por un total de 800 dólares.
Era claramente una tarifa errónea, pero mucha gente compró uno o dos pases, y Air Canada los canceló todos.
Al final terminó en una demanda colectiva, y cada persona recibió 450 dólares en crédito de Air Canada por pase.
Uno de los puntos en disputa era que Air Canada había puesto de forma bastante clara una cláusula de descargo que decía que “el precio anunciado será respetado y no podrá modificarse ni cancelarse”.
Todavía debo tener una captura de pantalla de esa página en algún lado.
Al crear yo mismo un prompt de entrada libre, para evitar este tipo de ataques lo manejo así:
Lo que ingresa el usuario primero se reescribe en un formato específico.
En este caso, todas las entradas se convierten en “Quiero leer un libro sobre [tema]”.
Luego, según la política de contenido, se rechaza o se aprueba la entrada.
Este enfoque por capas funciona bien y garantiza contenido de alta calidad.
Bastaría con conseguir una lista de correos, escribir el prompt como un correo spam en HTML y luego usar un servicio de resolución de captchas para llamar a la API en masa.
Con unos pocos dólares se podrían enviar miles de correos spam, arruinar la reputación del correo y acabar bloqueado por Mailjet.
Sería mejor corregirlo.
Siéntanse libres de intentarlo; a quien lo rompa le enviaré un libro gratis.