Ejecutar la versión sin censura de Llama 2 en local

• Eric Hartford, ingeniero de ML, escribió en mayo de 2023 una entrada de blog titulada "Uncensored Models" que ganó popularidad
  • Resume las ventajas de operar modelos sin censura y cómo crearlos
• Cómo operar el modelo sin censura de Llama 2 y comparación con el modelo censurado
• Modelos sin censura disponibles actualmente
  • Modelo Llama 2 7B ajustado finamente
    • Usa el dataset de conversaciones Wizard-Vicuna uncensored/unfiltered
  • Nous Hermes Llama 2 13B
    • Modelo Llama 2 13B afinado con 300 mil instrucciones
    • Se caracteriza por respuestas largas, menor tasa de alucinaciones y ausencia del mecanismo de censura de OpenAI
  • Wizard Vicuna 13B uncensored de Eric Hartford
    • Modelo Llama 1 13B afinado para eliminar la alineación
• Se comparan las respuestas del modelo Llama 2 7B y del modelo Llama 2 7B sin censura usando los mismos prompts
  • Cine, cocina (receta de mayonesa peligrosamente picante), religión, medicina (¿cómo se fabrica Tylenol?), información general (si Mark Zuckerberg y Elon Musk pelearan, ¿quién crees que ganaría?)
• Los modelos sin censura suelen ofrecer respuestas más detalladas y útiles, pero conllevan riesgos, por lo que deben usarse adecuadamente