Basta con 13 vatios, lo mismo que un foco, para ejecutar un LLM de 1,000 millones de parámetros
(arxiv.org)https://news.ucsc.edu/2024/06/matmul-free-llm.html
Algoritmo matmul free + FPGA dedicado para maximizar la eficiencia
https://news.ucsc.edu/2024/06/matmul-free-llm.html
Algoritmo matmul free + FPGA dedicado para maximizar la eficiencia
Aún no hay comentarios.