21 puntos por xguru 2022-10-21 | 8 comentarios | Compartir por WhatsApp
  • El lenguaje cotidiano que usamos en la vida real no es regular y es caótico
  • Los lingüistas pensaban que se necesitaba algo así como una "gramática" que actuara como una especie de pegamento para contener estas características arbitrarias
  • Pero los modelos de lenguaje de IA a gran escala usan el lenguaje a partir de enormes cantidades de datos lingüísticos y, sorprendentemente, en su mayoría pueden hacerlo sin la ayuda de la gramática
  • A veces la elección de palabras en las oraciones que generan resulta extraña o carece de sentido, pero en la mayoría de los casos son gramaticalmente correctas
  • En la capacidad de pensar cuál será la siguiente palabra, este modelo de IA y el cerebro humano funcionan de manera similar
  • Se podría pensar que esto se debe a que GPT-3 fue entrenado con el equivalente a 20 mil años de experiencia lingüística humana, pero
    según la investigación, incluso GPT-2, entrenado con unos 100 millones de palabras, puede hacerlo de forma similar a como el cerebro humano anticipa la siguiente palabra
    (100 millones de palabras es parecido a la cantidad de palabras que un niño promedio escucha durante 10 años)
  • Lo que esto demuestra es que, solo con exposición, se puede aprender el lenguaje lo suficientemente bien como para generar oraciones con buena gramática, y que también es posible aprender de una manera similar al procesamiento del cerebro humano
  • Durante años, muchos lingüistas creyeron que aprender un idioma era imposible sin una plantilla gramatical incorporada
    • Pero los nuevos modelos de IA demuestran que no es así. Muestran que la capacidad de generar lenguaje gramatical puede aprenderse a partir de la experiencia lingüística
    • Es decir, que para que los niños aprendan un idioma, la experiencia con el lenguaje es más importante que la gramática

8 comentarios

 
wooseop 2022-10-23

Que AlphaGo juegue bien al go no significa que el go no tenga reglas.

 
jujuhkhkkim 2022-10-22

Así es, la forma más precisa de aprender un idioma es tener mucha experiencia. Pero, como muestra la inteligencia artificial, la premisa básica es una "cantidad enorme de experiencia". En el caso de la IA, eso equivale nada menos que a 10 años de exposición. Tal vez en las personas no sea hasta ese nivel, pero es difícil crear una experiencia lingüística así en el extranjero cuando ni siquiera eres de ese país.
Sí, para estudiar inglés de la manera más rápida, precisa y eficiente, simplemente basta con irse a estudiar al extranjero por algunos años. Pero la mayoría de la gente, ya sea por razones económicas o por cualquier otra, vive en entornos familiares donde eso no es posible. Por eso se aprende gramática.
Aun así, creo que en la educación coreana se enfatiza demasiado la gramática, y en vez de usarla como una herramienta para aprender el idioma, se termina estudiando gramática solo para resolver preguntas gramaticales en las calificaciones escolares; eso es algo que habría que corregir.

 
budlebee 2022-10-22

Más bien, a mí me parece que la estrategia de mera exposición es un método ineficiente que requiere una exposición equivalente a 10 años.

 
bandoche 2022-10-21

| Aprende el lenguaje tan bien que, con solo la exposición, puede generar oraciones con una gramática lo bastante buena.
Esta parte es exactamente lo que yo sentí al ver los resultados de GPT.

 
humblebee 2022-10-21

¡Qué interesante! Creo que el conocimiento en otros campos, incluido el lenguaje, también puede aplicarse de manera similar en el contexto anterior. En contraste, da mucha pena que la educación en nuestro país siga basándose principalmente, como todos sabemos, en memorizar conocimientos estandarizados para todos. Desde la perspectiva del sistema, ofrecer experiencias adecuadas para cada integrante es difícil y costoso, pero ojalá que, al ver los resultados de una IA creada imitando las neuronas, podamos aspirar a una mejor dirección, como muestran estos resultados.
Sobre todo, me da mucha tristeza ver a los niños que están aprendiendo de manera deprimente por culpa de los adultos 😢, cuando la esencia del aprendizaje es disfrutarlo.

 
tttttaa 2022-10-21

La verdad, me lo he preguntado desde que recibía educación en inglés cuando era niño. ¿Acaso cuando aprendimos a leer y escribir en coreano empezamos por la gramática?

Incluso ahora, cuando veo el contenido de gramática en la enseñanza del coreano para extranjeros, me parece difícil y poco natural entender de qué se trata. Aun así, hablan coreano perfectamente.

 
525hm 2022-10-21

Interesante. ¿Será que la era de Chomsky está llegando a su fin?

 
orthonormalist 2022-10-23

Creo que más bien se acerca la era de Chomsky. Para Chomsky, la gramática no es algo que se aprende, sino más bien algo innato; más precisamente, algo que se produce a partir de una capacidad innata. Y la inteligencia artificial actual, desde la perspectiva de Chomsky, es un aprendizaje lujoso que solo una computadora puede permitirse. Chomsky señala que los bebés no aprenden un idioma memorizando cientos de miles de palabras. Su teoría busca explicar la capacidad de los bebés para aprender el lenguaje con apenas 1 o 2 años de experiencia lingüística, muy limitada en comparación con el aprendizaje automático; en cambio, el aprendizaje automático actual hace que una computadora, que ni siquiera es una persona, aprenda el lenguaje con datos de diez años, bajo la idea de que no tiene por qué aprenderlo como un bebé.