AWS cambió la compresión de S3 de gzip a zstd y redujo el tamaño alrededor de un 30%
(twitter.com/adrianco)- Ante la pregunta de cuánto desperdicio eliminó
zstd, creado por Yann Collet, esto fue lo que respondió Adrian Cockcroft - En la escala de exabytes de S3, un 30% representa un ahorro de costos enorme
- También se dice que Twitter, al cambiar a
zstden HDFS, ahorró cada año varios miles de millones de wones (~ mid 8 figs/yr)
4 comentarios
Uber también cambió de GZIP/SNAPPY a ZSTD.
https://www.uber.com/en-TW/blog/cost-efficiency-big-data/
¡zstd es increíble!
Comparto el enlace porque tiene material comparativo sobre rendimiento de compresión.
https://github.com/facebook/zstd
Hoy probé
zstdpor primera vez.Parece que ya venía incluido por defecto en macOS.
Para comprimir:
zstd file=>file.zstPara descomprimir:
unzstd file.zst=>file