Si vuelves a mencionar la IA, te voy a hacer un piledriver
(ludic.mataroa.blog)"Las innovaciones recientes en el campo de la IA, como GPT-4, tendrán un impacto amplio en la sociedad. Van desde una utopía que elimine el trabajo monótono hasta una distopía que amenace el sustento de los artistas, e incluso una amenaza existencial para la propia humanidad."
- El autor recibió formación formal como científico de datos y tiene habilidades lo bastante destacadas como para haber ganado una competencia de ML realizada en una de las mejores universidades de Australia
- Pero no es el mejor; está en un nivel en el que puede usar bibliotecas creadas por instituciones de élite e implementar soluciones conocidas en lenguajes avanzados
- Pero a la próxima persona que vuelva a mencionar la IA le ofrecerá gratis un ajuste quiropráctico de columna que "le romperá el cuello", así que se disculpa sinceramente de antemano
I. Pero vamos a lograr una eficiencia enorme con el aprendizaje automático-
"¿No escuchaste lo que acabo de decir?"
- Aunque trabajó como científico de datos desde 2019, en 2021 se dio cuenta de que este campo era grande, pero estaba lleno de humo
- La mayoría de los líderes no habían leído ni 30 minutos sobre IA y aun así insistían en que había que enfocarse en ella
- La cantidad de empresas que iniciaban iniciativas de IA superaba por mucho la cantidad de casos de uso reales
- El mercado estaba lleno de charlatanes e incompetentes
- El autor se pasó a la ingeniería de datos/software
- El hype no le hace bien a los desarrolladores
- Tiene amigos honestos y alma, pero no puede cambiar de campo con facilidad
- Los trabajos de ciencia de datos desaparecieron y el ciclo de hype se trasladó a la ingeniería de datos
- Justo cuando pensó que por fin la IA se había acabado...
- Pero entonces alguien creó ChatGPT, y ahora se está invirtiendo un esfuerzo de ingeniería enorme en añadir soporte de chatbot a todas las aplicaciones
- Y eso en una industria donde la mitad ni siquiera sabe cómo probar respaldos de bases de datos de forma regular...
- La razón por la que habría que ejercer violencia contra el siguiente idiota que sugiera que la IA es el futuro de los negocios es que ya no se distingue de los cientos de millones de imbéciles deliberados que existen ahora mismo
II. Pero necesitamos IA para seguir siendo competitivos-
"Oh, señor misericordioso, por favor deja de hablar. A menos que seas una de las pocas empresas que realmente sabe exactamente cómo va a usar la IA, no necesitas IA"
- Es muy probable que la inteligencia artificial que existe hoy y es útil ya esté integrada en la cadena de suministro del software empresarial
- Un proveedor de seguridad administrada probablemente ya usa algoritmos integrados en software de laboratorio para detectar tráfico anómalo
- Ellos tampoco hicieron mucho trabajo de IA; simplemente compraron software en un segmento pequeño del mercado donde sí hace falta contratar científicos de datos
- Tal vez quieras ser como Steve Jobs y hablar de capacidad innovadora, pero eso no significa que te ganaste el derecho de usar cuello de tortuga
- E incluso si así fuera, para sobrevivir al ataque del autor necesitarías armadura de placas en vez de suéter
- La mayoría de las empresas no puede ni desarrollar e implementar con éxito, a tiempo y dentro del presupuesto, ni siquiera la aplicación CRUD más simple
- Si colaboras con gente inteligente y das requisitos razonables, un equipo competente puede lograrlo una y otra vez
- Los clientes con los que trabaja ahora el autor, aunque no sepan nada de tecnología, respetan la inteligencia de los demás, "hablan como adultos" y resuelven problemas juntos
- Pero la mayoría de las empresas está operativa y culturalmente incapacitada para hacerlo
- La permanencia media de un ingeniero es de apenas 1 a 2 años, así que la organización sufre una amnesia institucional regresiva
- Si a alguien se le ocurre cancelar el privilegio del trabajo remoto del equipo de ingeniería, los mejores ingenieros se van
- Cada vez que hay un ataque de ransomware se descubre que nadie probó los respaldos en seis meses y que no se puede revivir la mitad de los sistemas legacy
- Lo vio personalmente dos veces en cuatro años. ¿Se dan cuenta de lo loco que es eso?
- La mayoría de las organizaciones ni siquiera puede entregar de forma consistente las aplicaciones más básicas, y aquí estás diciendo que introducir tecnología experimental es la mejor forma de seguir siendo competitivos
- Tecnología que está un nivel por encima de cualquier cosa que opere el departamento de TI, sin experiencia de contratación y sin haber usado nunca una GPU
- E incluso si hicieran todo bien, puede que aun así no puedan resolver el problema por la naturaleza de los datos y del negocio
- Esto no es una receta para el desastre, es un libro de cocina para quien quiere preparar una catástrofe de 12 tiempos
- ¿Qué tal si siguen siendo competitivos simplemente "arreglando bien su propio trabajo"?
- El autor ha visto que se permita a un científico de datos senior con acceso a registros sensibles de clientes guardar contraseñas en un archivo de texto en su escritorio
- ¿Y tú estás preocupado por si lo mejor para el cliente es mejorar la seguridad usando IA a través de un mecanismo que ni siquiera has imaginado todavía?
- Estás diciendo cosas de "idiota", así que el autor te va a patear la mandíbula hasta que un médico te la amarre con alambre para tranquilidad de todos y nos dé 10 segundos benditos de silencio para que podamos "resolver problemas reales"
III. Pero ya hemos visto beneficios generalizados-
"Cuando era niño leí la novela clásica de fantasía de R.A. Salvatore 'The Crystal Shard'. Hay una escena en la que el protagonista Wulfgar desafía al jefe bárbaro a un duelo para llevar a su pueblo a una guerra que salvará al mundo. La pelea termina con Wulfgar soltando su arma, sujetando la cabeza del jefe con las manos desnudas y 'rogándole' que se rinda para no tener que convertirse en asesino"
- Bueno, ese soy yo. Te estoy rogando que dejes de mentir. De verdad no quiero aplastarte el cráneo.
- "Pero si me obligas a hacerlo, lo haré".
- Ayer vio el "AI Readiness Report 2024" de Scale, y en el gráfico aparecía que 8% de las empresas no había tenido resultados productivos con la adopción de IA
- ¿De verdad hay que ser tan idiota como para creer que solo "8%" de las empresas fracasó en sus proyectos de IA?
- Si ni siquiera pueden gestionar esto de forma consistente con apps CRUD, ¿de verdad no te parece ridícula esa cifra?
- Durante la fiebre de los LLM, "algunas" empresas sí habrán obtenido beneficios, pero no el "92%"
- ¿Que 34% de las empresas reportó que la IA generativa está ayudando con la toma de decisiones estratégicas?
- ¿Pero qué demonios significa eso? GPT-4 ni siquiera puede escribir Elixir consistente y de alto nivel al nivel en que escribe Python
- ¿Y tú estás admitiendo que le dejas la toma de decisiones a "esa cosa que a veces le dice a la gente que prepare toxinas letales para que su familia las consuma"?
- El autor no lo cree. Nadie en su sano juicio lo cree
- Si la junta directiva cree lo que pusiste en la encuesta, debería despedirte
- Ahora por fin entiende por qué algunos de sus amigos sienten que "tienen" que estar en puestos de liderazgo
- Porque alguien tiene que arrancarte las riendas del poder de tus garras de lagarto antes de que nos empujes a todos juntos por un precipicio
- Hace unos años, un amigo fue invitado a una organización de FAANG y viajó a Estados Unidos; muchas de las presentaciones eran demos técnicas de productos impresionantes de inteligencia artificial
- Como ingeniero de software, pasó tiempo detrás del escenario con los desarrolladores y descubrió que "la mayoría de las demos estaban amañadas"
- El producto no funcionaba y no habían podido resolver problemas menores, como "predecir realmente lo que se supone que debía predecir"
- ¡Pero eso no impidió que soltaran una hora de absoluto sinsentido a un público boquiabierto!
- Como ingeniero de software, pasó tiempo detrás del escenario con los desarrolladores y descubrió que "la mayoría de las demos estaban amañadas"
- Otro amigo estaba revisando software para servicios de emergencia, pero los vendedores no esperaban que el encargado de compras de esos servicios fuera un programador entusiasta
- Por esa conciencia de seguridad tan deficiente, "accidentalmente revelaron que el servicio al final solo era un tipo cualquiera en India"
- El autor se lo toma con calma a nivel personal, porque si intercambiara lugares con sus primos de India, él también sería simplemente algún tipo cualquiera en India
- Pero "usar la palabra IA para venderle el trabajo de gente que se parece a mí a un gobierno extranjero" es una porquería, y eres un monstruo sin ética
- Si sigues intentando "try { thisBullshit(); }", vas a recibir "catch (theseHands)"
IV. Pero tenemos que prepararnos para el futuro-
"Le voy a preguntar a ChatGPT cómo preparar una soga y luego te voy a estrangular con ella. Y tú solo podrás 'rezar' para que ChatGPT se vuelva loco con una probabilidad del 10% y diga que la soga debe estar hecha solo de papel y maldad."
- He visto a ejecutivos debatir que hay que adoptar IA generativa de inmediato para prepararse para el trabajo del futuro
- Aunque todos los discursos suenan igual, verlos mover las manos, hablar y esforzarse por no babear deja claro que practicaron mucho.
- Hablando en serio por un momento:
- El autor no pertenece al bando, igual de poco serio, que cree que la IA generativa no tiene potencial para cambiar el mundo de forma drástica
- Recuerda haber visto las primeras demos de GPT-2 y estar medio convencido de que estaban manipuladas de alguna manera, pero estaba equivocado
- Así que ya no puede estar seguro de qué demonios está pasando
- Pero sí tiene la base técnica para entender los principios fundamentales de la tecnología, y parece que vamos en una de tres direcciones
- Ocurre una explosión de inteligencia, la IA se mejora recursivamente a sí misma, y nosotros terminamos cosechados por nuestros átomos constituyentes
- Porque un algoritmo de mercado descubre que los humanos podrían reconvertirse en un nuevo epóxico llamado "gloobna" para una raza alienígena con mucha demanda de reparación de cafeteras
- En ese escenario, al autor no le preocuparían mucho los ingresos de la empresa
- Resulta que el enfoque actual no escala tanto como se esperaba, por varias razones: falta de datos, problemas de arquitectura, etc.
- En ese universo, "algunas" industrias, como atención al cliente, entrarían en una gran disrupción
- Si las mejoras siguen siendo graduales de esta manera, entonces la empresa simplemente no necesita IA generativa. Y si realmente la necesita, sabrá "exactamente" por qué la necesita
- Cosas como la función de Todoist que convierte filtros en lenguaje natural al lenguaje interno de filtrado sí ayudan de verdad. Pero si "no hay un caso de uso", este tipo de capacidad amplia en realidad no sirve de mucho
- Lo que hay que hacer es simplemente "mejorar la operación y la cultura", y así tendrás la capacidad de usar IA cuando de verdad se vuelva relevante
- Todo el mundo habla de generación aumentada por recuperación, pero la mayoría de las empresas en realidad ni siquiera tienen documentación interna que valga la pena recuperar. Por favor, "hagan bien su maldito trabajo".
- Esos problemas fundamentales se resuelven y esto termina en algo que reemplaza la programación tal como la conocemos hoy, o que puede identificarse ampliamente como inteligencia general
- Si la IA generativa despega como un cohete, "hacer un chatbot cualquiera no te va a preparar para el futuro"
- Escribir "import openai" no significa que estés en la frontera de la inteligencia artificial
- El negocio entrará en caos en un grado "exactamente igual" que si no hubieras hecho nada, y mucho peor de lo que habría sido si te hubieras mantenido firme en lo básico
- Enseñarles a los empleados a usar ChatGPT para escribir correos a stakeholders "no va a hacer que una empresa sobreviva a esto"
- Si logra pasar por el ojo de la aguja entre un impacto moderado y uno a nivel asteroide-que-extingue-dinosaurios, entonces todo "cambiará para siempre", y tu preparación tibia tendrá tanto impacto como una hormiga resistiendo "con muchísima dificultad" bajo la sombra de un tsunami gigante
- Si la IA generativa despega como un cohete, "hacer un chatbot cualquiera no te va a preparar para el futuro"
- Ocurre una explosión de inteligencia, la IA se mejora recursivamente a sí misma, y nosotros terminamos cosechados por nuestros átomos constituyentes
- Si aparece otro imbécil diciéndole a la gente que implemente revisión de código basada en LLM "para elevar el estándar" en vez de enseñarles un mínimo de disciplina, voy a aprender suficiente judo como para lanzarlo al sol
- No puedo enfatizar esto lo suficiente: o estás "en la frontera absoluta, produciendo investigación nueva", o, salvo concesiones menores para integrar LLM, deberías hacer exactamente lo mismo que hacías hace 5 años
- "No tiene ningún sentido estar en medio". A menos que trabajes en una de esas pocas industrias que están "completamente patas arriba en este momento".
V. Pero dicen que todo el mundo lo está usando-
"¿Te imaginas cuánta política pública está escribiendo ChatGPT en realidad antes de que algún burócrata aburrido se vaya a su casa a tocar pasto? ¿Cuántos departamentos habrá donde los LLM se pasan dando vueltas entre sí mientras la gente, harta de tanta estupidez, pega intercambios de correo en hilos interminables? 'Te apuesto' a que a menos de 10 km de donde estoy hay un médico que metió síntomas en un chatbot y diagnosticó mal a un paciente"
- ¿Qué "carajos" estamos haciendo como sociedad?
- Le preguntó a un ejecutivo de una institución que otorga certificaciones importantes, usadas para verificar si estudiantes son aptos para trabajos potencialmente salvavidas y para la ley migratoria, si podían detectar cuándo los estudiantes hacían trampa
- Iba a decir "No, probablemente no podamos", pero... le entró la duda y en vez de eso dijo lo siguiente
"Creo que sí podríamos, pero actualmente más del 50% de los estudiantes están haciendo trampa, así que tendríamos que suspenderlos y eso afectaría gravemente los ingresos. ¿Aun así quieren que lo investigue?"
- Desde entonces ya no hablan del tema
- Le preguntó a un mentor que actualmente trabaja en el sector público sobre una conversación especialmente penosa que presenció
Yo: Pregunta seria: ¿la gente de verdad cree esas estupideces, o la mayoría está montando una obra elaborada en un triste intento por sacarle dinero a los charlatanes de la IA?
Mentor: Para responder de la forma más política posible... hay gente que se tomó el Kool-Aid. Hay gente que no. Y también hay gente que intenta mezclar la mayor cantidad posible de Kool-Aid. Tú decide quién cae en qué grupo.
- Yo ya decidí, y aunque no puedo distinguir entre los que se tragan el Kool-Aid como si fuera un arma y los que lo producen en masa, "a algunos de ellos" los voy a agarrar antes de que me atrapen las autoridades
- Con suerte perderán meses preguntándole a un LLM dónde estoy
- Estaba de vacaciones en Fiyi y, en el último desayuno del resort, la mesera le llevó un formulario de inscripción
- Dijo que era totalmente gratis y que además venía con regalos. Todos en el restaurante estaban firmando de inmediato
- Al revisar los términos de servicio, decía que tenían derecho a usar todos los datos que yo proporcionara para entrenar modelos de IA, y también a compartir esos modelos con un número no especificado de empresas afiliadas
- Yo solo quiero comer mis hotcakes en paz, imbéciles
VI.
"La razón por la que me enfurezco no es porque 'odie' a los LLM o al auge de la IA generativa en sí. Me divertí con Copilot, pero al final concluí que me volvía más tonto. Es impresionante, pero en la práctica no "sirve" para mucho más que escupir código boilerplate. Programar es diseñar, y como estas herramientas todavía no son lo bastante buenas para ayudar seriamente con eso, no trajeron el enorme aumento de productividad que imaginé."
- Lo que detesto son las personas que se pegan a la IA como sanguijuelas ciegas y retorcidas que chupan sangre
- Son los mismos que, cuando no era popular, disfrutaban hablar del potencial de la blockchain para los negocios
- Cuando asistí a una conferencia reciente, discutían sin parar sobre el "potencial de lo cuántico", pero no parecía que tuvieran claro qué demonios era eso
- Debajo de un artículo que leí la semana pasada apareció una pequeña encuesta; era para ejecutivos de seguridad, pero hice clic rápido para ver qué preguntaba
- Bueno, aquí está. Querido líder, ¿qué te interesa más? ¿La inteligencia artificial, la blockchain o la computación cuántica?
- Saben exactamente quién es su mercado objetivo. Son personas con poder a las que les han enseñado a sonreírle a todo y que manejan "dinero ajeno", y saben que pueden imprimir dinero subiéndose a la siguiente moda especulativa
- Ningún profesional de seguridad competente que yo conozca está interesado en estas cosas. Están ocupados averiguando si el firewall está bien configurado y si la organización está haciendo commits de contraseñas al repositorio
- Hace falta alguien que entienda el impacto de la computación cuántica en la criptografía, pero ese no es "Greg de las sinergias"
- Una persona que, aparte de hablar rapidísimo y aumentar headcount, no tiene ninguna habilidad técnica identificable
- A Greg de las sinergias jamás habría que pedirle consejo sobre temas importantes, desde machine learning ops hasta cómo amarrarse las agujetas más rápido
- La última vez que hablé con uno de los avatares de Greg de las sinergias, insistía en que debía invertir la mayor parte de mi dinero en una criptomoneda llamada Monero, diciendo que "la mayoría de las monedas se van a ir a cero, pero una va a ser el dólar"
- "Esta es la cara de la IA empresarial". Mira esa cara escalofriante y horrorizate. Tiene los ojos inyectados de sangre como un demonio y finge disfrutar un puro
- En mi consultora hay tres científicos de datos "bastante buenos". De hecho, sería justo decir que dos de ellos están entre los mejores del país fuera de los grupos que hacen investigación experimental, pero son demasiado modestos para decirlo
- Aun así, no vendemos ningún tipo de servicio de IA. El mercado está tan distorsionado que es "casi" tan malo como meter un pie en el espacio cripto
- Todavía no creo que cualquiera que alguna vez haya escrito "import tensorflow" sea automáticamente un hijo de puta, pero "vamos en esa dirección"
- Este tipo de gente, en resumen, le resulta repugnante a cualquiera que tenga la cabeza en su sitio
- Son una vergüenza para quienes de verdad están logrando avances en este campo, y una deshonra para quienes saben usar la tecnología con sensatez para mejorar el mundo
- También son unos imbéciles aburridos e ignorantes que deberían ser enviados a la cárcel de líderes de pensamiento hasta que aprendan la lección. Una cárcel que estoy recaudando fondos para construir
- Cada mañana, una figura de voz ronca, con capucha negra y como si tallara lápidas, les da a los gerentes encarcelados una charla TEDx de 60 minutos sobre cómo esta institución está innovando el castigo corporal, antes de revelarles que esa innovación consiste en darles una patada brutal en el estómago todos los días
- Me repugna que la profesión que elegí me ponga demasiado cerca de esta gente, y estudio con todas mis fuerzas para que sus sílabas pestilentes no me ensucien los oídos
- Tengo que huir desesperadamente para juntarme con la gente decente, esa que contribuye al OSS y cree que pasarse el día hablando de agile es una actividad para alienígenas que leyeron libros sobre productividad humana
- Acabo de volver de un viaje por un país mucho menos desarrollado, y realmente pude "ver" por un momento, al "vivirlo", cuántas vidas podría mejorar todo ese dinero
- Y sin embargo lo están tirando de manera increíble al drenaje de Microsoft Fabric, así que siento que me rechinan los engranajes
- Lo juro: voy a estudiar, escribir, hacer networking y, de una forma u otra, "aplicar fuerza al problema"
- ¡Hasta que esos recursos terminen donde puedan lograr algo por la sociedad en vez de ir a la cartera de un payaso sonriente!
VII. Ah, entonces eres uno de esos pesimistas de la IA-
"Por Dios como testigo, si vuelves a abrir la boca sobre IA una sola vez más sin haber escrito tú personalmente un sistema de machine learning, te voy a mandar por correo un ladrillo y una hoja que diga prompt injection para que te pegues con eso en la cara. Y luego me voy a quedar sentado esperando a que se lo cargues a ChatGPT, porque probablemente ya ni siquiera puedes leer por tu cuenta, monstruoso idiota."
PS
- Como han llegado muchos lectores nuevos, quizá también disfruten estos textos de abajo:
- También está el pódcast "¿Una rana tiene naturaleza de escorpión?", donde hablamos con franqueza sobre temas de tecnología entre amigos. ¡Espero que te haya divertido!
3 comentarios
Decir que la IA está sobrevalorada es difícil cuando la frecuencia de uso de la búsqueda de Google ya cayó más de la mitad.
"Fuimos cosechados como componentes"
Opiniones de Hacker News