Zstandard tok (.zstd)

IETF Standardno

Zstandard (Zstd) je Metin moderan algoritam za kompresiju bez gubitaka u realnom vremenu, koji pruža stepen kompresije uporediv sa Deflate algoritmom, uz dekompresiju brzinom od više gigabajta u sekundi na modernom hardveru.

Конвертујте ZSTD у GZIP

Бесплатан ZSTD у GZIP конвертор у прегледачу. Конвертујте фајлове тренутно без слања на сервер уз 100% приватност.

Pregledaj i metapodaci

Operativni sistemi i analizatori datoteka identifikuju Zstandard datoteke proverom početnog binarnog niza bajtova:

Изаберите или превуците датотеке овде

100% приватна конверзија у прегледачу – датотеке никада не напуштају ваш уређај

или налепите Ctrl+V
100% Локална обрада у прегледачу 0 бајтова послато спољним серверима. Сва обрада је извршена локално у безбедном окружењу вашег прегледача.

Potpis zaglavlja na nivou bajtova (Magic Bytes)

Operativni sistemi i analizatori datoteka identifikuju Zstandard datoteke proverom početnog binarnog niza bajtova:

HEX POTPIS (OFFSET 0):

28 B5 2F FD

ASCII REPREZENTACIJA: (µ/ý

Standardizacija: IETF RFC 8878

Tehničke specifikacije

Arhitektura kontejneraFrame header with magic 0xFD2FB528, frame descriptor, data blocks, and optional 32-bit/64-bit checksum
KompresijaFinite State Entropy (FSE) coder + Huffman coding + LZ77 with large search windows (up to 2 GB)
Bajtni redosled (Endianness)Little-Endian byte and bitstream order
Prostori bojaN/A (Data Compression Stream)
Kanali i strukturaGeneral-purpose byte stream compression
Maksimalne dimenzijeUnbounded streaming data capacity
Transparentnost100% bit-exact lossless data reproduction
Strimovanje i progresivno učitavanjeUltra-high-throughput streaming designed to saturate multi-gigabit NVMe and network links

Tehnička matrica poređenja: Zstandard vs Konkurenti

Tehnički atributZstandard (Trenutno)GZBROTLILZ4
Brzina dekompresijeUltrazbrzano (1,5 - 3,0 GB/s)Umereno (~300 MB/s)Brzo (~400 MB/s)Munjevito (~4,0 GB/s)
Efikasnost kompresijeViša od Gzip-a, uporediva sa Bzip2Osnovni standardNajviša na veb tekstuNiska (fokusirana na brzinu)
Obuka rečnikaPrilagođeni obučeni rečniciNemaFiksni veb rečnik od 120 KBNema
Usvajanje od strane modernog OS-aLinux kernel, Arch, Fedora, BtrfsUniverzalni stari UnixVeb pretraživači i CDN iviceLinux kernel i gejm endžini

Uobičajeni režimi oštećenja i vodič za heksadecimalni oporavak

Greška pri dekompresiji: 'ZSTD_error_checksum_wrong: Checksum verification failed'.

Osnovni uzrok: Oštećeni bajt u bloku podataka zbog čega 32-bitna ili 64-bitna xxHash verifikacija ne uspeva.

Oporavak: Raspakujte sa '--force' da biste zaobišli kontrolnu sumu ili popravite pomoću File2File Zstd Konvertera.

Bezbednosna analiza i vektori napada parsera

Mašina stanja FSE dekodiranja u Zstandard-u mora strogo da validira tabele opisa kako bi sprečila skokove u nevažeća stanja.

Poznati vektori napada

  • Oštećene FSE normalizovane tabele brojača koje uzrokuju pretragu tabele stanja van dozvoljenih granica.
  • Prelivanje celobrojne vrednosti tokom alokacije bafera velikog prozora.
  • Ukrađivanje usluge (DoS) iscrpljivanjem memorije prilagođenog rečnika.

Defanzivne najbolje prakse:

Istorijat i prekretnice

2021IETF objavljuje Zstandard kao RFC 8878; glavne Linux distribucije (Arch, Fedora, Ubuntu) ga usvajaju za pakovanje.
2018Linux kernel 4.14 uključuje Zstandard kompresiju za Btrfs i SquashFS sisteme datoteka.
2015Jan Kolet predstavlja Zstandard u Fejsbuku, uvodeći tehnologiju entropije konačnih stanja (FSE).

Ključne prednosti

  • Neverovatna brzina dekompresije: dekompresuje brzinom od 1,5 do 3,0 GB/s po jezgru, maksimalno iskorišćavajući brze NVMe SSD diskove.
  • Veoma fleksibilna skala kompresije: nudi 22 nivoa kompresije, od munjevito brze u realnom vremenu do ultra-guste arhivske.
  • Obuka prilagođenog rečnika omogućava postizanje 3x do 5x bolje kompresije na malim zapisima kao što su JSON i redovi baze podataka.

Tehnička ograničenja i nedostaci

  • Nešto veći memorijski otisak od starijeg Deflate algoritma tokom kompresije visokog nivoa sa velikim veličinama prozora.
  • Zahteva moderne alate; stariji Unix serveri možda nemaju unapred instalirane zstd uslužne programe.
  • Sirovi .zst tokovi zahtevaju kontejnerizaciju (poput TAR-a) da bi se sačuvale hijerarhije direktorijuma.

Zanimljivosti

  • Zstandard koristi entropiju konačnih stanja (tANS), proboj u asimetričnim numeričkim sistemima koji je razvio Jarek Duda i koji dostiže Šenonove granice entropije brzinom hardvera.
  • Arch Linux i Fedora su prebacili svoje menadžere paketa (pacman i dnf) na .tar.zst, čime su ubrzali instalaciju softvera za preko 400%.
  • Magijski bajtovi 0x28 0xB5 0x2F 0xFD izabrani su tako da budu lako prepoznatljivi i da se izbegnu kolizije sa starijim formatima.

Često postavljana tehnička pitanja

Zašto Zstandard zamenjuje Gzip u modernom Linux-u?

Zstandard kompresuje datoteke manje od Gzip-a dok ih dekompresuje 5 do 10 puta brže, dramatično skraćujući vreme instalacije softvera i smanjujući potrošnju CPU-a na serveru.

Šta je rečnička kompresija (dictionary compression) u Zstd-u?

Zstd može da trenira na skupu malih datoteka (poput JSON API odgovora) da bi kreirao prilagođeni rečnik, omogućavajući naknadnim datotekama da se kompresuju do 5 puta više upućivanjem na deljene šablone.

Kako mogu da dekompresujem .zst ili .zstd datoteku?

Možete dekompresovati .zst i .tar.zst datoteke direktno u Vašem veb pretraživaču pomoću aplikacije File2File.app bez instaliranja alata komandne linije.