DDF.TECHNOLOGY

PortfolioGGUFCompressionLab

download GitHub
PortfolioAI & Data Engineering
MIT / FREE Python 3.10+ v1.0.0

GGUFCompressionLab

Un piccolo laboratorio da riga di comando che legge un file GGUF in streaming, stima l'entropia di Shannon dei byte e confronta quattro compressori lossless generici.

Flusso di analisi e confronto compressione di un file GGUF
Analisi locale in streaming
01

// Workflow

Prima misura, poi confronta

  1. 01*.ggufSeleziona un file locale non vuoto
  2. 021 MiB → H(X)Legge i byte e stima l'entropia
  3. 03size / ratioConfronta gli output generati
02

// Algorithms

Quattro compressori della libreria standard

LZMA .xz

Compressione elevata, generalmente più lenta.

GZIP .gz

Ampia compatibilità e buon compromesso.

BZIP2 .bz2

Confronto alternativo basato su block sorting.

ZLIB .zlib

Flusso DEFLATE rapido con wrapper compatto.

03

// Boundaries

Ambito sperimentale esplicito

Cosa misura

  • Dimensione originale e compressa
  • Distribuzione delle frequenze dei byte
  • Entropia di Shannon in bit per byte
  • Rapporto per ciascun algoritmo

Cosa non misura

  • Struttura dei tensori o semantica del modello
  • Qualità della quantizzazione
  • Velocità o accuratezza d'inferenza
  • Compressione specializzata GGUF
04

// Release & licence

Leggibile, testato e riutilizzabile

MIT License

Sorgente e documentazione possono essere usati, modificati e ridistribuiti conservando l'avviso.

5 tests

Entropia, input vuoto e round-trip lossless per tutti e quattro gli algoritmi.

colorama + tqdm

Proprietari e licenze di terze parti sono documentati nel repository.

Spazio su disco

Eseguire tutti gli algoritmi crea quattro output accanto all'originale e può richiedere molto tempo sui modelli grandi.

SHA-256

34c1ce293377…caab2cd
Verificato dopo il download dell'asset pubblico.