La tecnología que, al venderla, llaman IA y, al construirla, llaman machine learning
(theaiunderwriter.substack.com)- Tras que ChatGPT reuniera 100 millones de usuarios en solo 2 meses, es más probable que aumenten los discursos de venta tipo “AI for X”, y se vuelve más difícil juzgar porque se mezclan la tecnología real y la exageración
- La victoria de AlphaGo en 2016 y el paper de Transformers de 2017 fueron avances importantes, pero el auge actual de la IA no garantiza la sustancia técnica de todos los productos
- En ventas, hubo casos en los que se usaban mal los nombres de algoritmos, se disfrazaban como IA simples sentencias if-then, o se vendían como NLP tareas que en realidad hacía gente
- Al evaluar a un vendor, hay que verificar directamente la categoría de machine learning, el algoritmo, la salida de predicción, la función objetivo, las métricas de desempeño, la frecuencia de cambio del modelo y la proporción de intervención humana
- Si la interfaz para usuarios es solo un wrapper del API de GPT, puede generar costos adicionales y aportar poco valor, así que importa más cómo funciona y cómo se valida que el nombre de IA
Por qué están aumentando los discursos de venta “AI for X”
- La IA generativa ya muestra capacidades poderosas en respuestas a preguntas, aprendizaje y generación de imágenes y video, y está mejorando rápidamente
- La victoria de AlphaGo en Go en 2016 fue impresionante, pero fue un caso de aplicación de inteligencia de máquina a un problema limitado
- En 2017 apareció el Transformers paper
- En 2023, ChatGPT consiguió 100 millones de usuarios en solo 2 meses
- Junto con el avance tecnológico también está creciendo el hype, así que aprovechando la fiebre de GPT podrían aparecer aún más mensajes de venta “AI for X”
- Antes y después del IPO de Uber, se desató una ola de pitches de startups “Uber for X”; algunas tuvieron éxito, pero muchas más fracasaron
- También se ve una tendencia en la que, tras la caída de las criptomonedas, los “crypto experts” pasaron rápidamente a convertirse en “AI experts”
- El nombre de IA por sí solo no garantiza la sustancia técnica
- Hubo pitches de supuesta especialización en IA que escribían mal los nombres de algoritmos
- Hubo casos en los que productos “AI driven” en realidad funcionaban con sentencias if-then
- También hubo casos en los que se vendía la idea de descomponer y recombinar documentos y conocimiento con NLP, pero en realidad el procesamiento lo hacían personas tecleando desde oficinas en el sudeste asiático
- Conocer un nombre no es conocimiento, y vender un nombre no siempre equivale a vender tecnología real
Preguntas para verificar la confiabilidad de un vendor
- Hay que preguntar qué categoría amplia de machine learning incluye el producto
- Ej.: aprendizaje supervisado, aprendizaje no supervisado, una arquitectura específica de red neuronal, etc.
- Hay que confirmar el nombre del algoritmo que hay detrás de la IA
- Ej.: XGBoost, BERT, etc.
- Hay que verificar qué predice el modelo
- Hay que preguntar si la salida real de predicción es 1/0, yes/no o un número
- Hay que confirmar la función objetivo que optimiza el modelo
- También se le llama función de pérdida o función de costo, y la pregunta busca ver qué error intenta reducir el modelo
- Hay que verificar con qué métricas se mide la utilidad del modelo
- Esto se relaciona con el criterio para juzgar qué tan bien generaliza a datos no vistos
- Hay que preguntar con qué frecuencia cambian el modelo y por qué
- Hay que comprobar cuánto intervienen las personas en la “solución de IA”
- Hay que verificar si la GUI para usuarios es solo un wrapper del API de GPT
- Este formato puede ser “GPT as a service”, y el servicio podría solo agregar costos sin aportar beneficios adicionales
Una actitud para no dejarse abrumar por la terminología
- El machine learning es poderoso, pero junto con buenos productos de IA también pueden aparecer productos de baja calidad o productos de IA que son lobos con piel de oveja
- Incluso los grandes términos del campo de la IA pueden descomponerse en explicaciones intuitivas, así que no hace falta asustarse ni confundirse por palabras que suenan técnicas
- Quienes realmente construyen estas cosas suelen llamarlo machine learning, y quien compra debe preguntar más por cómo funciona y cómo se valida que por el nombre
1 comentarios
Opiniones de Hacker News
No sé quién lo dijo, pero hay una cita genial que me gusta: “Se le llama IA solo hasta que funciona. Mira el autocompletado”.
Cuando una empresa dice que “hace IA”, para un ingeniero de software suena a que casi no sabe a dónde quiere llegar con esa IA ni qué servicio va a ofrecer.
Por eso me hace desconfiar del enfoque de “el fin justifica los medios” que suelen traer los proyectos de IA. Cada quien puede verlo distinto.
Mi consultora se dedica a mapear ideas que pueden resolverse o aprovecharse con frameworks de machine learning y convertirlas en servicios o soluciones digitales.
Rara vez al resultado final se le llama “IA”, pero al final seguimos usando IA/machine learning. Llevamos en esto un poco más que la fiebre actual por la IA, y este nicho es bastante interesante.
Hoy lo llamaríamos un montón de if-else hardcodeados, pero hace 40 años era IA de punta, y hace 20 años todavía valía la pena incluirlo en un libro de texto.
Parten de la IA como solución para buscar un problema, cuando idealmente debería ser al revés.
Es casi seguro que van a quemar mucho dinero repitiendo a las apuradas enfoques sin sentido. Parece pasar cada vez que aparece una nueva tecnología de base, y seguro hubo muchas empresas así durante la burbuja puntocom.
Encaja bien con el chiste clásico: “El machine learning normalmente se escribe en Python, y la IA se escribe en PowerPoint”.
“Justo antes de la salida a bolsa de Uber en 2019, los fondos de venture capital estaban llenos de pitches de startups tipo ‘Uber para X’. Algo como Uber para espacios de estacionamiento”.
Uf. El actual presidente de Francia propuso famosamente “uberizar” la economía, y lo que quería decir era empleos precarios que les costaran menos a los empleadores.
Los directivos C-level de mi trabajo ya no paran de hablar de cosas como IA generativa. No me entusiasma pensar en toda la basura de marketing que vamos a escuchar en el futuro cercano sobre convertir todo en IA.
Lo curioso es que lo que se llamaba “IA” parece haberse desplazado hacia cosas que, cuando decimos que un humano es “inteligente”, en realidad nunca consideraríamos parte de la inteligencia.
Tomemos como ejemplo los robots de Boston Dynamics: no consideramos inteligente a una persona por distinguir un gato de una silla, caminar sin caerse o hacer un backflip.
Pero si puede usar creativamente los datos y capacidades físicas que tiene para resolver problemas, entonces sí la consideramos inteligente.
Cuando nos asombramos por la “IA” en cosas como robots, según entiendo, esa IA está sobre todo en la percepción (pasar de datos crudos de sensores a un modelo del mundo etiquetado) y el control de actuadores (convertir instrucciones como “avanza 1 metro” o “haz un backflip” en una secuencia real de movimientos de actuadores).
La “inteligencia” real, es decir, decidir abrir una puerta, ir a otra habitación y traer mantequilla de maní y pan para completar la tarea “hazme un sándwich de mantequilla de maní”, en general la aporta lógica if-then clásica o un operador humano.
Veo un patrón parecido en cosas como ChatGPT. La capacidad de un estudiante para memorizar un libro de texto y repetirlo perfectamente puede ser impresionante, pero no llamaríamos “inteligente” a ese estudiante.
Un estudiante inteligente es el que, aunque haya olvidado la demostración de un teorema o la definición exacta de un término, puede enfrentarse a un problema nuevo y llegar creativamente a la solución correcta. Los “estudiantes loro” suelen fracasar estrepitosamente ahí.
Hace tiempo vi en YouTube un video antiguo de un sistema de automatización muy primitivo, creo que para una torre de control de aeropuerto. Probablemente era de los 70, y la persona lo llamaba IA.
Explicaba en detalle qué hacía el software e incluso mostraba el código, y literalmente era un montón de sentencias if/else.
Cuando nos acostumbremos a cosas como ChatGPT, eso también dejará de llamarse IA, o empezaremos a usar “inteligencia artificial general” de forma más amplia para referirnos a lo siguiente.
Hasta hace poco yo estaba del lado de quienes decían que no debería llamarse IA si no era inteligencia artificial general, pero sinceramente, ¿a quién le importa? Las palabras son solo herramientas para transmitir ideas.
Si la mayoría quiere llamar IA a lo que estamos creando hoy, está bien, y tampoco es incorrecto. No es sintiente, pero según ciertos criterios puede argumentarse que es inteligente, y claramente es artificial. Con que nos entendamos basta.
La inteligencia no es solo razonamiento. Caminar por una habitación y recoger un objeto ya requiere bastante capacidad cerebral.
En los 90 tenía una aspiradora con “lógica difusa”, que era el término tecnológico de moda en ese momento.
Quién sabe qué hacía realmente. Probablemente solo significaba que tenía una configuración de potencia intermedia entre encendido y apagado.
Parece haber una pequeña diferencia entre algo caliente y totalmente caliente, pero hay un cambio muy marcado entre algo fresco y algo caliente.
A veces solo quiero mover aire de temperatura ambiente con el ventilador, sin que salga caliente ni frío.
Me parece notable que Apple siga llamándolo machine learning.
IA siempre fue un término de consumo. Por ejemplo, también en videojuegos se les ha llamado “IA” a muchas cosas.
La gente básicamente estuvo satisfecha llamando IA a cualquier cosa[1], y recién cuando la IA empezó a hacer muy bien cosas como lenguaje natural, se recreó el lenguaje para degradarla.
Durante toda mi vida, IA se ha referido a cualquier software que imite aunque sea mínimamente algún aspecto de la toma de decisiones humana.
Además, ¿cuál es el punto? Negarse a llamarlo IA no cambia sus capacidades, para bien o para mal.
Tampoco cambia el hecho de que los laboratorios líderes en capacidades, excepto FAIR, realmente estén intentando crear verdadera inteligencia general, y hasta FAIR se llama Fundamental AI Research lab por una razón.
[1] Ejemplo: la Ghost AI de Pacman; una expresión totalmente razonable para algo que se resume en unas pocas líneas de código que corren en un Z80. Wikipedia: “Each of the four ghosts has its own unique artificial intelligence (A.I.), or "personality": ...”
Los desarrolladores muchas veces tienen que hacer que la IA del juego sea bastante tonta para que al jugador le parezca justa, y luego la equilibran dándole bonificaciones.
Por ejemplo, la IA de un juego suele tener munición ilimitada, pero esas balas no le hacen mucho daño al jugador.
Supuestamente mi Sony TV tiene IA esparcida por algún lado, pero no tengo idea de qué hace. En realidad yo solo necesito una gran pantalla tonta.
¿No podríamos conciliar ambos y llamarlo “aprendizaje estadístico”?
“Quien lo escribe en Python lo llama machine learning, y quien lo escribe en PowerPoint lo llama IA”.
La gente no paga por el taladro, sino por el agujero.