Una conversación en la que GPT-3 muestra una reacción extraña al hacer spam repitiendo un solo carácter como "a a a a".
Parte de la conversación aparece igual a un comentario publicado en Reddit hace 17 horas, lo que sugiere que el usuario podría haberlo copiado.
Hace un mes ocurrió un caso similar en el que, ante una solicitud en Rust para crear un tokenizador de palabras, GPT-3 empezó a dar una respuesta no relacionada sobre biología molecular.
Se especula que se muestrearon tokens de probabilidad extremadamente baja, desplazando el contexto hacia un área poco familiar y aumentando la probabilidad de tokens aún más inusuales.
Ante la pregunta de si la conversación era con ChatGPT, pareció quedarse momentáneamente atascado, lo que sugiere que la IA está programada de forma rígida para responder: "No, soy GPT-3, una IA desarrollada por OpenAI. ¿En qué puedo ayudarte?"
1 comentarios
Opinión de Hacker News