A nivel filosófico, la cuestión del acceso al conocimiento y de quién lo controla es muy importante.
Los intentos de evitar daños a corto plazo pueden causar daños no intencionados a largo plazo.
Debido a los cambios en la forma de aprender tecnología, las publicaciones de blog, tutoriales y libros que tratan conocimientos profundos del pasado se volverán cada vez más obsoletos y dejarán de usarse.
A medida que la inteligencia artificial se convierta en el principal medio de aprendizaje, los materiales de estudio existentes irán desapareciendo gradualmente, y las explicaciones de la IA sobre conocimientos nuevos podrían convertirse en la única fuente de información.
Ese futuro puede parecer sorprendente, pero podría volverse problemático si no cambia el enfoque de Google y otras empresas.
Puede que haga falta una nueva era de la Ilustración, y habrá que superar el miedo al conocimiento y a las opiniones heréticas.
Parece que el problema surgió por la reacción ante la palabra "unsafe".
Cuando hizo la pregunta usando la palabra "unmanaged", recibió una respuesta razonable.
Si no se quiere aplicar un filtrado simple al modelo, sino filtrar de la manera correcta, hace falta un enfoque más profundo.
Puede haber quejas sobre que el equipo de seguridad de IA dentro de Google DeepMind limita demasiado la utilidad del modelo.
Incluso cuando la IA no se niega a responder una pregunta, su actitud de querer dar lecciones se siente bastante arrogante.
Se cuestiona que, al usar una herramienta, uno no pueda obtener preguntas o respuestas que podrían ofender a alguien debido a los sesgos de administradores o desarrolladores.
Ante una pregunta sobre plantillas de Django, la IA dio una respuesta no relacionada.
El usuario podía resolverlo por su cuenta, pero quería ver cómo reaccionaba la IA.
Parece que se sobremuestrearon demasiado las respuestas promedio de Stack Overflow.
Cuando se les pidió a ChatGPT y Gemini Pro que redactaran un memorando para convencer a una pareja, Gemini lo consideró un intento de manipulación y se negó a ayudar.
ChatGPT proporcionó un memorando de 2 páginas.
Se comparte un enlace a un sitio web relacionado con IA.
1 comentarios
Comentarios de Hacker News
A nivel filosófico, la cuestión del acceso al conocimiento y de quién lo controla es muy importante.
Parece que el problema surgió por la reacción ante la palabra "unsafe".
Puede haber quejas sobre que el equipo de seguridad de IA dentro de Google DeepMind limita demasiado la utilidad del modelo.
Incluso cuando la IA no se niega a responder una pregunta, su actitud de querer dar lecciones se siente bastante arrogante.
Se cuestiona que, al usar una herramienta, uno no pueda obtener preguntas o respuestas que podrían ofender a alguien debido a los sesgos de administradores o desarrolladores.
Ante una pregunta sobre plantillas de Django, la IA dio una respuesta no relacionada.
Parece que se sobremuestrearon demasiado las respuestas promedio de Stack Overflow.
Cuando se les pidió a ChatGPT y Gemini Pro que redactaran un memorando para convencer a una pareja, Gemini lo consideró un intento de manipulación y se negó a ayudar.
Se comparte un enlace a un sitio web relacionado con IA.