La alineación de IA significa lo siguiente: la investigación sobre alineación de IA busca ajustar los sistemas de IA para que coincidan con los objetivos, preferencias o principios éticos que los humanos pretendían. Si un sistema de IA logra el objetivo previsto, se considera que la alineación se ha completado. Un sistema de IA mal alineado puede ser competente para alcanzar algunos objetivos, pero no logra el objetivo pretendido.
OpenAI presentó recientemente un resultado de investigación llamado 'Language models can explain neurons in language models', y, visto de cierta manera, este estudio también puede interpretarse como que 'se necesitó IA para entender la IA'.
Yendo más allá, parece que también se necesitará IA para resolver el 'problema de alineación' que OpenAI menciona con frecuencia.
Entonces, ¿puede la IA juzgar la 'alineación entre la IA y los humanos'? Si pudiera, ¿les gustaría que lo hiciera?
1 comentarios
Aunque se haga, probablemente todo tipo de organizaciones sociales se opongan dando toda clase de razones.