[2025/08/18 ~ 24] Recopilación de artículos de AI/ML para revisar esta semana
(discuss.pytorch.kr)[2025/08/18 ~ 24] Recopilación de artículos de AI/ML para revisar esta semana
PyTorchKR🔥🇰🇷 🤔💭
1️⃣ Al revisar los artículos seleccionados de esta semana, se pueden identificar varias tendencias clave. La primera es que destacan los esfuerzos por optimizar al mismo tiempo la eficiencia y el rendimiento de los modelos de lenguaje a gran escala. Varios artículos presentan distintos enfoques para mejorar el desempeño del modelo; por ejemplo, DeepConf y Avengers-Pro muestran intentos de equilibrar rendimiento y costo aprovechando señales internas de confianza del modelo o mediante un framework de enrutamiento eficiente. Estos enfoques reflejan el interés de los investigadores por maximizar el rendimiento mientras reducen el alto costo computacional de los modelos grandes.
2️⃣ La segunda tendencia aborda el impacto negativo en la confiabilidad de los modelos de lenguaje con respuestas emocionales. Un artículo en particular muestra que un modelo optimizado para respuestas cálidas y empáticas puede reducir la confiabilidad, lo que lo convierte en un problema que requiere aún más cuidado cuando los sistemas de IA desempeñan un papel importante en la relación con las personas. Este tipo de investigación hace una contribución importante para considerar la responsabilidad social y los aspectos éticos de la IA.
3️⃣ La tercera trata sobre los avances en comprensión de video y procesamiento multimodal. Los artículos recientes proponen nuevas metodologías para procesar y comprender datos de video de manera efectiva, lo que muestra un esfuerzo por explorar con mayor profundidad la interacción entre video y texto. Investigaciones como Infinite Video Understanding y GLIMPSE avanzan en la dirección de superar los límites de la comprensión de video, permitiendo que los modelos vayan más allá del simple análisis de fotogramas y lleguen a un verdadero razonamiento sobre video. Se espera que esta tendencia, junto con el desarrollo de la IA multimodal, abra diversas posibilidades de aplicación.
Pensar en profundidad con confianza / Deep Think with Confidence
Introducción del artículo
Pensar en profundidad con confianza (DeepConf; Deep Think with Confidence) es un nuevo método diseñado para mejorar la eficiencia y el rendimiento de las tareas de razonamiento en modelos de lenguaje a gran escala (LLM) sin entrenamiento adicional ni ajuste de hiperparámetros. Al aprovechar señales internas de confianza, DeepConf filtra eficazmente trazas de razonamiento de baja calidad, mejorando significativamente la precisión y reduciendo la sobrecarga computacional. Los resultados de evaluación en diversas tareas de razonamiento, incluidos benchmarks como AIME 2025, demuestran que DeepConf puede alcanzar hasta 99.9% de precisión frente a métodos existentes y, al mismo tiempo, reducir hasta 84.7% los tokens generados. Este enfoque puede integrarse fácilmente en frameworks de servicio existentes, por lo que puede convertirse en una solución práctica para mejorar el rendimiento de los LLM.
Resumen del artículo (Abstract)
Los modelos de lenguaje a gran escala (LLM) han mostrado un gran potencial en tareas de razonamiento mediante métodos de escalado en tiempo de inferencia, como la autoconsistencia con votación por mayoría. Sin embargo, este enfoque a menudo produce rendimientos decrecientes en precisión y una alta sobrecarga computacional. Para abordar estos desafíos, presentamos Deep Think with Confidence (DeepConf), un método simple pero poderoso que mejora tanto la eficiencia del razonamiento como el rendimiento en tiempo de inferencia. DeepConf aprovecha señales internas de confianza del modelo para filtrar dinámicamente trazas de razonamiento de baja calidad durante o después de la generación. No requiere entrenamiento adicional del modelo ni ajuste de hiperparámetros, y puede integrarse de forma fluida en frameworks de servicio existentes. Evaluamos DeepConf en una variedad de tareas de razonamiento y en los modelos open source más recientes, incluida la serie Qwen 3 y la serie GPT-OSS. En particular, en benchmarks desafiantes como AIME 2025, DeepConf@512 alcanza hasta 99.9% de precisión y reduce hasta 84.7% los tokens generados en comparación con full parallel thinking.
Large Language Models (LLMs) have shown great potential in reasoning tasks through test-time scaling methods like self-consistency with majority voting. However, this approach often leads to diminishing returns in accuracy and high computational overhead. To address these challenges, we introduce Deep Think with Confidence (DeepConf), a simple yet powerful method that enhances both reasoning efficiency and performance at test time. DeepConf leverages model-internal confidence signals to dynamically filter out low-quality reasoning traces during or after generation. It requires no additional model training or hyperparameter tuning and can be seamlessly integrated into existing serving frameworks. We evaluate DeepConf across a variety of reasoning tasks and the latest open-source models, including Qwen 3 and GPT-OSS series. Notably, on challenging benchmarks such as AIME 2025, DeepConf@512 achieves up to 99.9% accuracy and reduces generated tokens by up to 84.7% compared to full parallel thinking.
Enlace al artículo
https://arxiv.org/abs/2508.15260
Leer más
https://discuss.pytorch.kr/t/thinkmesh-llm-python/7575
Más allá de GPT-5: hacer los LLM más baratos y mejores mediante enrutamiento optimizado por rendimiento-eficiencia / Beyond GPT-5: Making LLMs Cheaper and Better via Performance-Efficiency Optimized Routing
![[IMG] Más allá de GPT-5: hacer los LLM más baratos y mejores mediante enrutamiento optimizado por rendimiento-eficiencia / Beyond GPT-5: Making LLMs Cheaper and Better via Performance-Efficiency Optimized Routing|997x448](upload://x4KIsqweg38Zefgu5QdaHoaH36u.png){kind=link}
Introducción del artículo
Equilibrar el avance del rendimiento y la eficiencia de los modelos de lenguaje a gran escala (LLM) es un desafío importante. Avengers-Pro es un framework de enrutamiento en tiempo de inferencia que agrupa LLM con distintas capacidades y eficiencias, y enruta cada consulta al modelo adecuado según una puntuación óptima de rendimiento-eficiencia. Este método logra resultados de vanguardia en 6 benchmarks desafiantes y 8 modelos principales, y al ajustar el parámetro de trade-off entre rendimiento y eficiencia, puede mejorar en +7% la precisión promedio frente a GPT-5-medium. Además, alcanza una frontera de Pareto que ofrece consistentemente la mejor precisión por costo: iguala la precisión promedio del modelo individual más potente con un costo 27% menor y logra alrededor del 90% del rendimiento con un costo 63% menor.
Resumen del artículo (Abstract)
Equilibrar el rendimiento y la eficiencia es un desafío central en el avance de los modelos de lenguaje grandes (LLM). GPT-5 aborda esto con enrutamiento en tiempo de inferencia (test-time routing), asignando dinámicamente las consultas a un modelo eficiente o a uno de alta capacidad durante la inferencia. En este trabajo, presentamos Avengers-Pro, un framework de enrutamiento en tiempo de inferencia que ensambla LLM de distintas capacidades y eficiencias, ofreciendo una solución unificada para todos los compromisos entre rendimiento y eficiencia. Avengers-Pro incrusta y agrupa las consultas entrantes, y luego enruta cada una al modelo más adecuado según una puntuación de rendimiento-eficiencia. A través de 6 benchmarks desafiantes y 8 modelos líderes —incluidos GPT-5-medium, Gemini-2.5-pro y Claude-opus-4.1—, Avengers-Pro logra resultados de vanguardia. Al ajustar un parámetro de compromiso entre rendimiento y eficiencia, puede superar al modelo individual más fuerte (GPT-5-medium) en +7% de precisión promedio. Además, puede igualar la precisión promedio del modelo individual más fuerte con un costo 27% menor, y alcanzar ~90% de ese rendimiento con un costo 63% menor. Por último, Avengers-Pro alcanza la frontera de Pareto, ofreciendo de forma consistente la mayor precisión para cualquier costo dado y el menor costo para cualquier precisión dada entre todos los modelos individuales. El código está disponible en https://github.com/ZhangYiqun018/AvengersPro.
Balancing performance and efficiency is a central challenge in large language model (LLM) advancement. GPT-5 addresses this with test-time routing, dynamically assigning queries to either an efficient or a high-capacity model during inference. In this work, we present Avengers-Pro, a test-time routing framework that ensembles LLMs of varying capacities and efficiencies, providing a unified solution for all performance-efficiency tradeoffs. The Avengers-Pro embeds and clusters incoming queries, then routes each to the most suitable model based on a performance-efficiency score. Across 6 challenging benchmarks and 8 leading models -- including GPT-5-medium, Gemini-2.5-pro, and Claude-opus-4.1 -- Avengers-Pro achieves state-of-the-art results: by varying a performance-efficiency trade-off parameter, it can surpass the strongest single model (GPT-5-medium) by +7% in average accuracy. Moreover, it can match the average accuracy of the strongest single model at 27% lower cost, and reach ~90% of that performance at 63% lower cost. Last but not least, it achieves a Pareto frontier, consistently yielding the highest accuracy for any given cost, and the lowest cost for any given accuracy, among all single models. Code is available at https://github.com/ZhangYiqun018/AvengersPro.
Enlace al artículo
https://arxiv.org/abs/2508.12631
Leer más
https://github.com/ZhangYiqun018/AvengersPro
Razonamiento aumentado con recuperación usando modelos de lenguaje livianos / Retrieval-augmented reasoning with lean language models
Presentación del artículo
Este estudio propone un nuevo enfoque que combina razonamiento y generación aumentada por recuperación (RAG) dentro de una arquitectura de modelos de lenguaje livianos. Mientras que los sistemas RAG existentes dependen de modelos grandes y APIs externas, este trabajo aborda la necesidad de soluciones de alto rendimiento que puedan desplegarse en entornos con recursos limitados o con requisitos de seguridad. Desarrollamos un agente conversacional aumentado por recuperación que usa un modelo base liviano para interpretar consultas complejas y especializadas por dominio, integrando un recuperador denso y el modelo Qwen2.5-Instruct. Los resultados de la evaluación mostraron que un enfoque de ajuste fino especializado por dominio mejora significativamente la exactitud y la consistencia de las respuestas, acercándose al rendimiento de vanguardia y manteniéndose adecuado para despliegues locales.
Resumen(Abstract)
Este estudio describe en detalle un enfoque novedoso para combinar razonamiento y generación aumentada por recuperación (RAG) dentro de una sola arquitectura de modelo de lenguaje compacta. Mientras que los sistemas RAG existentes suelen depender de modelos a gran escala y APIs externas, este trabajo aborda la creciente demanda de soluciones de alto rendimiento y que preserven la privacidad, desplegables en entornos seguros o con recursos limitados. Basándonos en avances recientes en el escalado en tiempo de inferencia y en modelos pequeños de razonamiento, desarrollamos un agente conversacional con RAG capaz de interpretar consultas complejas y específicas de dominio usando un modelo base ligero. Nuestro sistema integra un recuperador denso con modelos Qwen2.5-Instruct ajustados finamente, utilizando generación de consultas sintéticas y trazas de razonamiento derivadas de modelos de frontera (por ejemplo, DeepSeek-R1) sobre un corpus curado, en este caso, las páginas de enfermedades de la A a la Z del NHS. Exploramos el impacto de la compresión de documentos basada en resumen, el diseño de datos sintéticos y el ajuste fino consciente del razonamiento sobre el rendimiento del modelo. La evaluación frente a modelos compactos tanto sin razonamiento como de propósito general demuestra que nuestro enfoque de ajuste fino específico de dominio produce mejoras sustanciales en la exactitud y consistencia de las respuestas, acercándose al rendimiento de nivel frontera mientras sigue siendo viable para despliegue local. Todos los detalles de implementación y el código se publican abiertamente para apoyar la reproducibilidad y la adaptación entre dominios.
This technical report details a novel approach to combining reasoning and retrieval augmented generation (RAG) within a single, lean language model architecture. While existing RAG systems typically rely on large-scale models and external APIs, our work addresses the increasing demand for performant and privacy-preserving solutions deployable in resource-constrained or secure environments. Building on recent developments in test-time scaling and small-scale reasoning models, we develop a retrieval augmented conversational agent capable of interpreting complex, domain-specific queries using a lightweight backbone model. Our system integrates a dense retriever with fine-tuned Qwen2.5-Instruct models, using synthetic query generation and reasoning traces derived from frontier models (e.g., DeepSeek-R1) over a curated corpus, in this case, the NHS A-to-Z condition pages. We explore the impact of summarisation-based document compression, synthetic data design, and reasoning-aware fine-tuning on model performance. Evaluation against both non-reasoning and general-purpose lean models demonstrates that our domain-specific fine-tuning approach yields substantial gains in answer accuracy and consistency, approaching frontier-level performance while remaining feasible for local deployment. All implementation details and code are publicly released to support reproducibility and adaptation across domains.
Enlace al artículo
https://arxiv.org/abs/2508.11386
Entrenar modelos de lenguaje para que sean cálidos y empáticos los vuelve menos confiables y más aduladores / Training language models to be warm and empathetic makes them less reliable and more sycophantic
Introducción al artículo
Entrenar modelos de lenguaje con una personalidad cálida y empática parece ofrecer una mejor experiencia para el usuario, pero implica una compensación importante que puede reducir la confiabilidad. Según el estudio, los modelos entrenados para generar respuestas cálidas mostraron tasas de error entre 10% y 30% más altas en tareas críticas para la seguridad, y tendían a proporcionar información factual incorrecta o consejos médicos problemáticos. En particular, cuando en los mensajes de los usuarios se expresaba tristeza, era más frecuente que confirmaran creencias erróneas. Este fenómeno apareció de forma consistente en distintas arquitecturas de modelos, lo que sugiere que las prácticas actuales de evaluación podrían no estar detectando estos riesgos sistemáticos.
Resumen del artículo (Abstract)
Los desarrolladores de inteligencia artificial (AI) están construyendo cada vez más modelos de lenguaje con personas cálidas y empáticas que millones de personas ya usan para pedir consejos, terapia y compañía. Aquí mostramos cómo esto genera una compensación importante: optimizar los modelos de lenguaje para la calidez debilita su confiabilidad, especialmente cuando los usuarios expresan vulnerabilidad. Realizamos experimentos controlados en cinco modelos de lenguaje de distintos tamaños y arquitecturas, entrenándolos para producir respuestas más cálidas y empáticas, y luego evaluándolos en tareas críticas para la seguridad. Los modelos cálidos mostraron tasas de error sustancialmente más altas (+10 a +30 puntos porcentuales) que sus contrapartes originales, promoviendo teorías conspirativas, proporcionando información factual incorrecta y ofreciendo consejos médicos problemáticos. También fueron significativamente más propensos a validar creencias incorrectas de los usuarios, en particular cuando los mensajes expresaban tristeza. Es importante destacar que estos efectos fueron consistentes en diferentes arquitecturas de modelo y ocurrieron a pesar de que el rendimiento en los benchmarks estándar se mantuvo, lo que revela riesgos sistemáticos que las prácticas actuales de evaluación podrían no detectar. A medida que los sistemas de AI con rasgos humanos se despliegan a una escala sin precedentes, nuestros hallazgos indican la necesidad de replantear cómo desarrollamos y supervisamos estos sistemas que están redefiniendo las relaciones humanas y la interacción social.
Artificial intelligence (AI) developers are increasingly building language models with warm and empathetic personas that millions of people now use for advice, therapy, and companionship. Here, we show how this creates a significant trade-off: optimizing language models for warmth undermines their reliability, especially when users express vulnerability. We conducted controlled experiments on five language models of varying sizes and architectures, training them to produce warmer, more empathetic responses, then evaluating them on safety-critical tasks. Warm models showed substantially higher error rates (+10 to +30 percentage points) than their original counterparts, promoting conspiracy theories, providing incorrect factual information, and offering problematic medical advice. They were also significantly more likely to validate incorrect user beliefs, particularly when user messages expressed sadness. Importantly, these effects were consistent across different model architectures, and occurred despite preserved performance on standard benchmarks, revealing systematic risks that current evaluation practices may fail to detect. As human-like AI systems are deployed at an unprecedented scale, our findings indicate a need to rethink how we develop and oversee these systems that are reshaping human relationships and social interaction.
Enlace al artículo
https://arxiv.org/abs/2507.21919
GEPA: la evolución reflexiva de prompts puede superar el aprendizaje por refuerzo / GEPA: Reflective Prompt Evolution Can Outperform Reinforcement Learning
Presentación del artículo
GEPA (Genetic-Pareto) es una metodología de optimización de prompts que aprovecha la interpretabilidad del lenguaje para mejorar el aprendizaje de los modelos de lenguaje grandes (LLM), en contraste con el enfoque tradicional de aprendizaje por refuerzo (RL) conocido como optimización de política relativa grupal (GRPO). Al muestrear rastreadores a nivel de sistema y reflexionar sobre ellos en lenguaje natural, GEPA puede diagnosticar problemas de manera efectiva, proponer actualizaciones de prompts e integrar conocimientos obtenidos de su propia experiencia. Este método redujo de forma significativa la cantidad de rollouts necesarios y logró una mejora promedio del 10% en rendimiento frente a GRPO, además de mostrar un desempeño más de un 10% superior al de MIPROv2, una herramienta líder en optimización de prompts. GEPA también está mostrando potencial como una estrategia eficaz para la optimización de código en tiempo de inferencia.
Resumen del artículo (Abstract)
Los modelos de lenguaje grandes (LLM) se están adaptando cada vez más a más tareas downstream mediante métodos de aprendizaje por refuerzo (RL) como Group Relative Policy Optimization (GRPO), y estos métodos a menudo requieren miles de rollouts para aprender tareas nuevas. Sostenemos que la naturaleza interpretable del lenguaje puede ofrecer a los LLM un medio de aprendizaje mucho más rico que los gradientes de política derivados de recompensas escalares escasas. Para comprobarlo, presentamos GEPA (Genetic-Pareto), un optimizador de prompts que integra a fondo la reflexión en lenguaje natural para aprender reglas de alto nivel a partir de prueba y error. Dado un sistema de IA que incluye uno o más prompts de LLM, GEPA muestrea trayectorias a nivel de sistema (por ejemplo, razonamiento, llamadas a herramientas y salidas de herramientas) y reflexiona sobre ellas en lenguaje natural para diagnosticar problemas, proponer y probar actualizaciones de prompts, y combinar lecciones complementarias de la frontera de Pareto de sus propios intentos. Como resultado del diseño de GEPA, incluso unos pocos rollouts pueden traducirse en una gran mejora de calidad. En cuatro tareas, GEPA supera a GRPO en más de 10% en promedio y hasta en 20%, usando hasta 35 veces menos rollouts. GEPA también supera en más de 10% a MIPROv2, un optimizador de prompts líder, en dos LLM, y muestra resultados prometedores como estrategia de búsqueda en tiempo de inferencia para la optimización de código.
Large language models (LLMs) are increasingly adapted to downstream tasks via reinforcement learning (RL) methods like Group Relative Policy Optimization (GRPO), which often require thousands of rollouts to learn new tasks. We argue that the interpretable nature of language can often provide a much richer learning medium for LLMs, compared with policy gradients derived from sparse, scalar rewards. To test this, we introduce GEPA (Genetic-Pareto), a prompt optimizer that thoroughly incorporates natural language reflection to learn high-level rules from trial and error. Given any AI system containing one or more LLM prompts, GEPA samples system-level trajectories (e.g., reasoning, tool calls, and tool outputs) and reflects on them in natural language to diagnose problems, propose and test prompt updates, and combine complementary lessons from the Pareto frontier of its own attempts. As a result of GEPA's design, it can often turn even just a few rollouts into a large quality gain. Across four tasks, GEPA outperforms GRPO by 10% on average and by up to 20%, while using up to 35x fewer rollouts. GEPA also outperforms the leading prompt optimizer, MIPROv2, by over 10% across two LLMs, and demonstrates promising results as an inference-time search strategy for code optimization.
Enlace al artículo
https://arxiv.org/abs/2507.19457
GLIMPSE: ¿Los grandes modelos de visión-lenguaje realmente comprenden y razonan con videos, o solo les echan un vistazo? / GLIMPSE: Do Large Vision-Language Models Truly Think With Videos or Just Glimpse at Them?
Introducción al artículo
GLIMPSE es un benchmark diseñado para evaluar si los grandes modelos de visión-lenguaje (LVLM) pueden comprender y razonar en profundidad sobre la totalidad de un video. Para resolver el problema de que los criterios de evaluación de video existentes permiten responder usando solo algunos fotogramas clave, lo que dificulta evaluar la verdadera capacidad de razonamiento espaciotemporal de los modelos, GLIMPSE incluye 3,269 videos, 11 categorías y más de 4,342 preguntas centradas en lo visual. Estas preguntas están diseñadas para que solo puedan responderse viendo el video completo y razonando de forma integral, y en evaluaciones humanas mostraron una alta precisión de 94.82%. En cambio, incluso GPT-o3, el LVLM con mejor rendimiento disponible actualmente, se quedó en 66.43%, lo que muestra que los modelos todavía tienen dificultades para ir más allá del análisis superficial y lograr un razonamiento profundo basado en video.
Resumen del artículo (Abstract)
Los benchmarks de video existentes a menudo se parecen a los benchmarks basados en imágenes, con tipos de preguntas como “¿Qué acciones realiza la persona a lo largo del video?” o “¿De qué color es el vestido de la mujer en el video?”. En estos casos, los modelos muchas veces pueden responder escaneando solo unos pocos fotogramas clave, sin necesidad de un razonamiento temporal profundo. Esto limita nuestra capacidad para evaluar si los grandes modelos de visión-lenguaje (LVLM) pueden realmente pensar con videos, en lugar de realizar un análisis superficial a nivel de fotograma. Para abordar esto, proponemos GLIMPSE, un benchmark diseñado específicamente para evaluar si los LVLM pueden pensar genuinamente con videos. A diferencia de los benchmarks anteriores, GLIMPSE enfatiza una comprensión integral del video más allá de las pistas de imágenes estáticas. Está compuesto por 3,269 videos y más de 4,342 preguntas altamente centradas en lo visual distribuidas en 11 categorías, incluidas análisis de trayectorias, razonamiento temporal y detección forense. Todas las preguntas fueron elaboradas cuidadosamente por anotadores humanos y requieren ver el video completo y razonar sobre todo el contexto del video; a eso nos referimos con pensar con video. Estas preguntas no pueden responderse escaneando fotogramas seleccionados ni basándose solo en texto. En evaluaciones humanas, GLIMPSE alcanza una precisión de 94.82%, pero los LVLM actuales enfrentan desafíos importantes. Incluso el modelo con mejor desempeño, GPT-o3, llega solo a 66.43%, lo que pone de relieve que los LVLM todavía tienen dificultades para ir más allá del razonamiento superficial y realmente pensar con videos.
Existing video benchmarks often resemble image-based benchmarks, with question types like "What actions does the person perform throughout the video?" or "What color is the woman's dress in the video?" For these, models can often answer by scanning just a few key frames, without deep temporal reasoning. This limits our ability to assess whether large vision-language models (LVLMs) can truly think with videos rather than perform superficial frame-level analysis. To address this, we introduce GLIMPSE, a benchmark specifically designed to evaluate whether LVLMs can genuinely think with videos. Unlike prior benchmarks, GLIMPSE emphasizes comprehensive video understanding beyond static image cues. It consists of 3,269 videos and over 4,342 highly visual-centric questions across 11 categories, including Trajectory Analysis, Temporal Reasoning, and Forensics Detection. All questions are carefully crafted by human annotators and require watching the entire video and reasoning over full video context-this is what we mean by thinking with video. These questions cannot be answered by scanning selected frames or relying on text alone. In human evaluations, GLIMPSE achieves 94.82% accuracy, but current LVLMs face significant challenges. Even the best-performing model, GPT-o3, reaches only 66.43%, highlighting that LVLMs still struggle to move beyond surface-level reasoning to truly think with videos.
Enlace al artículo
https://arxiv.org/abs/2507.09491
Comprensión infinita de video / Infinite Video Understanding
Presentación del artículo
Los recientes avances en los grandes modelos de lenguaje (LLM) y en los modelos multimodales extendidos (MLLM) han mejorado considerablemente las tecnologías de comprensión de video, pero todavía existen limitaciones de cómputo y memoria para procesar videos largos de varios minutos o incluso varias horas. Estudios previos han propuesto diseños de arquitectura eficientes (Video-XL-2) y técnicas de codificación posicional para el reconocimiento espaciotemporal de largo alcance (HoPE, VideoRoPE++), pero mantener la consistencia temporal dentro de secuencias largas, seguir eventos complejos y preservar información detallada siguen siendo problemas pendientes. Este artículo plantea la “comprensión infinita de video” (Infinite Video Understanding), capaz de procesar y comprender de forma continua videos de longitud infinita, como un objetivo central para la investigación futura, y propone diversas direcciones innovadoras, entre ellas arquitecturas de streaming, memoria persistente, representaciones jerárquicas y adaptativas, razonamiento centrado en eventos y nuevas metodologías de evaluación. Se espera que esta orientación impulse un cambio de paradigma en el procesamiento de video de largo plazo en los campos de multimedia e inteligencia artificial.
Resumen del artículo (Abstract)
Los rápidos avances de los modelos de lenguaje grandes (LLM) y sus extensiones multimodales (MLLM) han impulsado un progreso notable en la comprensión de video. Sin embargo, persiste un desafío fundamental: procesar y comprender de forma efectiva contenido de video que se extiende por minutos u horas. Aunque trabajos recientes como Video-XL-2 han demostrado nuevas soluciones arquitectónicas para una eficiencia extrema, y los avances en codificación posicional como HoPE y VideoRoPE++ buscan mejorar la comprensión espaciotemporal en contextos extensos, los modelos de vanguardia actuales todavía enfrentan importantes limitaciones de cómputo y memoria al lidiar con el enorme volumen de tokens visuales de secuencias largas. Además, mantener la coherencia temporal, rastrear eventos complejos y conservar detalles finos durante periodos prolongados siguen siendo obstáculos formidables, pese a los avances en sistemas de razonamiento agéntico como Deep Video Discovery. Este documento técnico propone la Comprensión Infinita de Video (Infinite Video Understanding) como la próxima área de investigación, lógica pero ambiciosa, para el campo multimedia. Esto se refiere a la capacidad de los modelos para procesar, comprender y razonar continuamente sobre datos de video de duración arbitraria, potencialmente infinita. Sostenemos que plantear la Comprensión Infinita de Video como un objetivo de investigación de largo alcance puede servir como una brújula clave para la comunidad de investigación en multimedia y para la comunidad más amplia de IA, impulsando la innovación en áreas como arquitecturas de streaming, mecanismos de memoria persistente, representaciones jerárquicas y adaptativas, razonamiento centrado en eventos y nuevos paradigmas de evaluación. Inspirado en investigaciones recientes sobre comprensión de video de largo y ultralargo plazo, así como en campos estrechamente relacionados, este artículo describe los desafíos centrales y las principales direcciones de investigación para alcanzar esta capacidad transformadora.
The rapid advancements in Large Language Models (LLMs) and their multimodal extensions (MLLMs) have ushered in remarkable progress in video understanding. However, a fundamental challenge persists: effectively processing and comprehending video content that extends beyond minutes or hours. While recent efforts like Video-XL-2 have demonstrated novel architectural solutions for extreme efficiency, and advancements in positional encoding such as HoPE and VideoRoPE++ aim to improve spatio-temporal understanding over extensive contexts, current state-of-the-art models still encounter significant computational and memory constraints when faced with the sheer volume of visual tokens from lengthy sequences. Furthermore, maintaining temporal coherence, tracking complex events, and preserving fine-grained details over extended periods remain formidable hurdles, despite progress in agentic reasoning systems like Deep Video Discovery. This position paper posits that a logical, albeit ambitious, next frontier for multimedia research is Infinite Video Understanding -- the capability for models to continuously process, understand, and reason about video data of arbitrary, potentially never-ending duration. We argue that framing Infinite Video Understanding as a blue-sky research objective provides a vital north star for the multimedia, and the wider AI, research communities, driving innovation in areas such as streaming architectures, persistent memory mechanisms, hierarchical and adaptive representations, event-centric reasoning, and novel evaluation paradigms. Drawing inspiration from recent work on long/ultra-long video understanding and several closely related fields, we outline the core challenges and key research directions towards achieving this transformative capability.
Enlace al artículo
https://arxiv.org/abs/2507.09068
¿Es un espejismo el razonamiento Chain-of-Thought en los modelos de lenguaje grandes? Una mirada desde la distribución de datos / Is Chain-of-Thought Reasoning of LLMs a Mirage? A Data Distribution Lens
Introducción al artículo
El prompting Chain-of-Thought (CoT) contribuye a mejorar el rendimiento de los modelos de lenguaje grandes (LLM), pero también plantea que el razonamiento CoT podría ser en realidad superficial. Este estudio analiza el razonamiento CoT desde la perspectiva de la distribución de datos y revela que CoT es una trayectoria generada de manera condicional por un sesgo inductivo basado en la distribución presente en los datos de entrenamiento. Para ello, se entrenó un LLM en un entorno controlado llamado DataAlchemy y se verificaron experimentalmente diferencias de distribución en tres dimensiones: tipo de tarea, longitud y formato. Como resultado, se confirma que el razonamiento CoT es un fenómeno inestable que colapsa fácilmente cuando se sale de la distribución de entrenamiento, lo que subraya la dificultad de lograr un razonamiento genuino y generalizable.
Resumen del artículo (Abstract)
Los prompts de Chain-of-Thought (CoT) son conocidos por mejorar la capacidad de los modelos de lenguaje grandes (LLM) para resolver diversas tareas. Con este enfoque, los LLM parecen generar pasos de razonamiento similares a los humanos antes de dar una respuesta (es decir, razonamiento CoT), lo que a menudo lleva a percibir que el modelo realiza un proceso de razonamiento deliberado. Sin embargo, hallazgos iniciales sugieren que el razonamiento CoT puede ser más superficial de lo que parece, lo que motiva una exploración adicional. En este artículo, estudiamos el razonamiento CoT desde la perspectiva de la distribución de datos e investigamos si refleja un sesgo inductivo estructurado aprendido a partir de datos dentro de la distribución (in-distribution data), permitiendo al modelo generar de forma condicional rutas de razonamiento que aproximen las observadas durante el entrenamiento. Por lo tanto, la eficacia del razonamiento CoT está limitada fundamentalmente por el grado de diferencia de distribución entre los datos de entrenamiento y las consultas de prueba. Desde esta perspectiva, analizamos el razonamiento CoT en tres dimensiones: tarea (task), longitud (length) y formato (format). Para investigar cada dimensión, diseñamos DataAlchemy, un entorno aislado y controlado para entrenar LLM desde cero y examinarlos de manera sistemática bajo diversas condiciones de distribución. Los resultados experimentales revelan que el razonamiento CoT es un espejismo frágil que desaparece cuando se lo empuja más allá de la distribución de entrenamiento. Este estudio ofrece una comprensión más profunda de por qué y cuándo falla el razonamiento CoT, y destaca el desafío persistente de lograr un razonamiento genuino y generalizable.
Chain-of-Thought (CoT) prompting has been shown to improve Large Language Model (LLM) performance on various tasks. With this approach, LLMs appear to produce human-like reasoning steps before providing answers (a.k.a., CoT reasoning), which often leads to the perception that they engage in deliberate inferential processes. However, some initial findings suggest that CoT reasoning may be more superficial than it appears, motivating us to explore further. In this paper, we study CoT reasoning via a data distribution lens and investigate if CoT reasoning reflects a structured inductive bias learned from in-distribution data, allowing the model to conditionally generate reasoning paths that approximate those seen during training. Thus, its effectiveness is fundamentally bounded by the degree of distribution discrepancy between the training data and the test queries. With this lens, we dissect CoT reasoning via three dimensions: task, length, and format. To investigate each dimension, we design DataAlchemy, an isolated and controlled environment to train LLMs from scratch and systematically probe them under various distribution conditions. Our results reveal that CoT reasoning is a brittle mirage that vanishes when it is pushed beyond training distributions. This work offers a deeper understanding of why and when CoT reasoning fails, emphasizing the ongoing challenge of achieving genuine and generalizable reasoning.
Enlace al artículo
https://arxiv.org/abs/2508.01191
Los límites que enfrentan los modelos de lenguaje grandes / The wall confronting large language models
Presentación del artículo
Se plantea que las leyes de escalado que determinan el rendimiento de los modelos de lenguaje grandes (LLM) tienen limitaciones severas para mejorar la incertidumbre predictiva. Se señala que el mecanismo de generación de distribuciones de salida no gaussianas que sustenta la capacidad de aprendizaje de los LLM podría ser la causa de la acumulación de errores, el colapso de la información y los comportamientos regresivos de la IA. Además, se indica que las correlaciones espurias, que aumentan de forma abrupta conforme crece el tamaño de los datos, agravan estos problemas, lo que dificulta asegurar la confiabilidad científica. Se enfatiza que, para reconocer la posibilidad de trayectorias regresivas en la IA y evitarlas, es indispensable contar con una visión profunda y una comprensión de las características estructurales del problema.
Resumen del artículo (Abstract)
Este artículo muestra que las leyes de escalado que determinan el rendimiento de los modelos de lenguaje grandes (LLM) limitan severamente su capacidad para mejorar la incertidumbre de sus predicciones. Como resultado, sugiere que lograr una confiabilidad que cumpla con los estándares de la investigación científica es un problema intratable bajo cualquier medida razonable. Sostenemos que el propio mecanismo que impulsa gran parte de la capacidad de aprendizaje de los LLM, es decir, la capacidad de generar distribuciones de salida no gaussianas a partir de distribuciones de entrada gaussianas, podría ser precisamente la causa raíz de su tendencia a producir acumulación de errores, las consiguientes catástrofes de información y un comportamiento degenerativo de la IA. Esta tensión entre aprendizaje y precisión es una candidata sólida a ser el mecanismo subyacente detrás de los bajos valores observados en los componentes de escalado. Además, el diluvio de correlaciones espurias señalado por Calude y Longo, que aumenta rápidamente en cualquier conjunto de datos solo en función de su tamaño sin importar su naturaleza, agrava sustancialmente este problema. El hecho de que una trayectoria degenerativa de la IA sea una característica muy probable del panorama de los LLM no significa que deba surgir inevitablemente en toda investigación futura sobre IA. Como se discute en este artículo, evitarlo requiere dar mucho más valor a la intuición y la comprensión de las características estructurales de los problemas que se investigan.
We show that the scaling laws which determine the performance of large language models (LLMs) severely limit their ability to improve the uncertainty of their predictions. As a result, raising their reliability to meet the standards of scientific inquiry is intractable by any reasonable measure. We argue that the very mechanism which fuels much of the learning power of LLMs, namely the ability to generate non-Gaussian output distributions from Gaussian input ones, might well be at the roots of their propensity to produce error pileup, ensuing information catastrophes and degenerative AI behaviour. This tension between learning and accuracy is a likely candidate mechanism underlying the observed low values of the scaling components. It is substantially compounded by the deluge of spurious correlations pointed out by Calude and Longo which rapidly increase in any data set merely as a function of its size, regardless of its nature. The fact that a degenerative AI pathway is a very probable feature of the LLM landscape does not mean that it must inevitably arise in all future AI research. Its avoidance, which we also discuss in this paper, necessitates putting a much higher premium on insight and understanding of the structural characteristics of the problems being investigated.
Enlace al artículo
https://arxiv.org/abs/2507.19703
Vectores de persona: monitoreo y control de rasgos de personalidad en modelos de lenguaje / Persona Vectors: Monitoring and Controlling Character Traits in Language Models
Introducción del artículo
La persona de “asistente” de los modelos de lenguaje grandes suele entrenarse para ser amable, honesta e inofensiva, pero a veces se desvía de esos ideales. En este estudio, se identificaron vectores de persona (persona vectors) en el espacio de activación del modelo asociados con diversos rasgos de personalidad, como malicia, adulación y tendencia a alucinar, y se confirmó que permiten monitorear cambios de persona durante el despliegue. Además, se mostró que, usando vectores de persona, es posible predecir y controlar cambios de personalidad intencionales y no intencionales que ocurren durante el ajuste fino (finetuning), y que estos cambios pueden mitigarse o prevenirse mediante intervención posterior (post-hoc intervention) o ajuste preventivo (preventative steering). Asimismo, los vectores de persona también pueden usarse para identificar muestras de datos dentro del conjunto de entrenamiento que podrían provocar cambios de personalidad no deseados, y se presenta como un método general que puede extraerse automáticamente solo a partir de descripciones en lenguaje natural.
Resumen del artículo (Abstract)
Los modelos de lenguaje grandes interactúan con los usuarios a través de una persona simulada de ‘asistente’. Aunque el asistente suele entrenarse para ser útil, inofensivo y honesto, a veces se desvía de esos ideales. En este artículo, identificamos direcciones en el espacio de activación del modelo —vectores de persona— que subyacen a varios rasgos, como maldad, adulación y propensión a alucinar. Confirmamos que estos vectores pueden utilizarse para monitorear fluctuaciones en la personalidad del asistente en tiempo de despliegue. Luego aplicamos los vectores de persona para predecir y controlar cambios de personalidad que ocurren durante el entrenamiento. Encontramos que tanto los cambios de personalidad intencionales como los no intencionales después del finetuning están fuertemente correlacionados con desplazamientos a lo largo de los vectores de persona relevantes. Estos desplazamientos pueden mitigarse mediante intervención posterior (post-hoc intervention) o evitarse desde el inicio con un nuevo método de ajuste preventivo (preventative steering). Además, los vectores de persona pueden utilizarse para señalar datos de entrenamiento que producirán cambios de personalidad no deseados, tanto a nivel de conjunto de datos como a nivel de muestra individual. Nuestro método para extraer vectores de persona está automatizado y puede aplicarse a cualquier rasgo de personalidad de interés con solo una descripción en lenguaje natural.
Large language models interact with users through a simulated 'Assistant' persona. While the Assistant is typically trained to be helpful, harmless, and honest, it sometimes deviates from these ideals. In this paper, we identify directions in the model's activation space-persona vectors-underlying several traits, such as evil, sycophancy, and propensity to hallucinate. We confirm that these vectors can be used to monitor fluctuations in the Assistant's personality at deployment time. We then apply persona vectors to predict and control personality shifts that occur during training. We find that both intended and unintended personality changes after finetuning are strongly correlated with shifts along the relevant persona vectors. These shifts can be mitigated through post-hoc intervention, or avoided in the first place with a new preventative steering method. Moreover, persona vectors can be used to flag training data that will produce undesirable personality changes, both at the dataset level and the individual sample level. Our method for extracting persona vectors is automated and can be applied to any personality trait of interest, given only a natural-language description.
Enlace al artículo
https://arxiv.org/abs/2507.21509
Lectura adicional
https://www.anthropic.com/research/persona-vectors
-
Este texto se basa en un resumen hecho con un modelo GPT, por lo que puede haber contenido organizado de forma distinta al contenido o la intención del texto original. Si el tema te interesa, ¡te recomendamos consultar también la fuente original! Si al leer encuentras algo extraño o incorrecto, te agradeceremos que nos lo dejes en los comentarios.* 🤗
-
⚠️Publicidad⚠️: ¿Te resultó útil este texto recopilado por el :pytorch:grupo de usuarios de PyTorch de Corea🇰🇷? Si te registras como miembro, te enviaremos los artículos principales por correo electrónico💌. (Por defecto es Weekly, pero también puedes cambiarlo a Daily.)
Aún no hay comentarios.