جریان Zstandard (.zstd)

IETF استاندارد

زداستاندارد (Zstd) الگوریتم فشرده سازی بدون اتلاف و بلادرنگ مدرن شرکت متا است که نسبت های فشرده سازی قابل مقایسه با Deflate را ارائه می دهد و در عین حال روی سخت افزارهای مدرن با سرعت چند گیگابایت بر ثانیه رفع فشرده سازی می کند.

تبدیل ZSTD به GZIP

مبدل رایگان ZSTD به GZIP درون مرورگر. فایل‌ها را فورا روی دستگاه خود تبدیل کنید.

بررسی و فراداده

سیستم‌عامل‌ها و تحلیلگرهای فایل، فایل‌های Zstandard را با بررسی توالی بایت‌های دودویی ابتدایی شناسایی می‌کنند:

انتخاب یا رها کردن فایل‌ها در اینجا

تبدیل ۱۰۰٪ خصوصی در مرورگر - فایل‌ها هرگز دستگاه شما را ترک نمی‌کنند

یا جای‌گذاری کنید Ctrl+V
تضمین حریم خصوصی بدون انتقال شبکه: صفر بایت به سرورهای خارجی آپلود می‌شود. تمام پردازش‌ها به صورت محلی در سندباکس مرورگر شما انجام شد.

امضای هدر در سطح بایت (Magic Bytes)

سیستم‌عامل‌ها و تحلیلگرهای فایل، فایل‌های Zstandard را با بررسی توالی بایت‌های دودویی ابتدایی شناسایی می‌کنند:

امضای HEX (آفست 0):

28 B5 2F FD

نمایش ASCII: (µ/ý

استانداردسازی: IETF RFC 8878

مشخصات فنی

معماری کانتینرFrame header with magic 0xFD2FB528, frame descriptor, data blocks, and optional 32-bit/64-bit checksum
فشرده‌سازیFinite State Entropy (FSE) coder + Huffman coding + LZ77 with large search windows (up to 2 GB)
ترتیب بایت‌ها (Endianness)Little-Endian byte and bitstream order
فضاهای رنگیN/A (Data Compression Stream)
کانال‌ها و ساختارGeneral-purpose byte stream compression
حداکثر ابعادUnbounded streaming data capacity
شفافیت مشخصات100% bit-exact lossless data reproduction
استریمینگ و پیش‌روندهUltra-high-throughput streaming designed to saturate multi-gigabit NVMe and network links

ماتریس مقایسه فنی: Zstandard در برابر رقبا

ویژگی فنیZstandard (فعلی)GZBROTLILZ4
سرعت رفع فشرده سازیفوق العاده سریع (۱.۵ - ۳.۰ گیگابایت بر ثانیه)متوسط (~۳۰۰ مگابایت بر ثانیه)سریع (~۴۰۰ مگابایت بر ثانیه)بسیار سریع (~۴.۰ گیگابایت بر ثانیه)
کارایی فشرده سازیبالاتر از Gzip، هم سطح با Bzip2استاندارد پایهبالاترین در متن وبکم (تمرکز روی سرعت)
آموزش دیکشنریدیکشنری های آموزش داده شده سفارشیهیچکدامدیکشنری وب ثابت ۱۲۰ کیلوبایتیهیچکدام
پذیرش سیستم عامل مدرنهسته لینوکس، Arch، Fedora، Btrfsیونیکس قدیمی جهانیمرورگرهای وب و لبه CDNهسته لینوکس و موتورهای بازی

حالت‌های رایج خرابی و راهنمای بازیابی هگز

خطای رفع فشرده سازی: 'ZSTD_error_checksum_wrong: Checksum verification failed'.

علت ریشه‌ای: بایت خراب در بلوک داده که باعث شکست خوردن اعتبارسنجی xxHash ۳۲ بیتی یا ۶۴ بیتی می شود.

بازیابی: با استفاده از '--force' برای دور زدن چک‌سام استخراج کنید یا با مبدل Zstd File2File تعمیر کنید.

تحلیل امنیتی و بردارهای حمله تجزیه‌کننده (Parser)

ماشین حالت رمزگشایی FSE در Zstandard باید جداول توضیحات را به شدت اعتبارسنجی کند تا از پرش های حالت نامعتبر جلوگیری شود.

بردارهای حمله شناخته‌شده

  • جداول شمارنده نرمال شده FSE خراب که باعث جستجوی جدول حالت خارج از محدوده می شود.
  • سرریز عدد صحیح در طول تخصیص بافر پنجره بزرگ.
  • حمله محرومیت از سرویس (DoS) از طریق اتمام حافظه دیکشنری سفارشی.

بهترین روش‌های پدافندی:

تاریخچه و نقاط عطف

2021IETF زداستاندارد را به عنوان RFC 8878 منتشر می کند؛ توزیع های اصلی لینوکس (Arch، Fedora، Ubuntu) آن را برای بسته بندی پذیرفته اند.
2018هسته لینوکس 4.14 فشرده سازی Zstandard را برای سیستم های فایل Btrfs و SquashFS ادغام می کند.
2015یان کولت Zstandard را در فیسبوک منتشر می کند و فناوری آنتروپی حالت متناهی (FSE) را معرفی می کند.

مزایا و نقاط قوت کلیدی

  • سرعت رفع فشرده سازی فوق العاده: رفع فشرده سازی با سرعت ۱.۵ تا ۳.۰ گیگابایت بر ثانیه در هر هسته، که SSD های NVMe پرسرعت را اشباع می کند.
  • مقیاس فشرده سازی بسیار منعطف: ارائه ۲۲ سطح فشرده سازی از بلادرنگ فوق العاده سریع تا آرشیوی فوق العاده فشرده.
  • آموزش دیکشنری سفارشی امکان دستیابی به فشرده سازی ۳ تا ۵ برابر بهتر را روی رکوردهای کوچک مانند JSON و رکوردهای پایگاه داده فراهم می کند.

محدودیت‌ها و معایب فنی

  • ردپای حافظه کمی بزرگتر از Deflate قدیمی در طول فشرده سازی سطح بالا با اندازه پنجره های بزرگ.
  • نیازمند ابزارهای مدرن است؛ سرورهای قدیمی یونیکس ممکن است ابزارهای zstd از پیش نصب شده نداشته باشند.
  • جریان های خام .zst برای حفظ سلسله مراتب دایرکتوری نیازمند کانتینرسازی (مانند TAR) هستند.

نکات فنی جالب

  • Zstandard از آنتروپی حالت متناهی (tANS) استفاده می‌کند، یک پیشرفت سیستم‌های عددی نامتقارن که توسط یارک دودا توسعه یافته است که به محدودیت‌های آنتروپی شانون با سرعت سخت‌افزاری دست می‌یابد.
  • آرچ لینوکس و فدورا مدیران بسته خود (pacman و dnf) را به .tar.zst تغییر دادند که نصب نرم افزار را بیش از ۴۰۰٪ سرعت بخشید.
  • بایت های جادویی 0x28 0xB5 0x2F 0xFD به گونه ای انتخاب شدند که به راحتی قابل تشخیص باشند و از تداخل با فرمت های قدیمی جلوگیری کنند.

سوالات فنی متداول

چرا Zstandard در حال جایگزینی Gzip در لینوکس مدرن است؟

فرمت Zstandard فایل‌ها را کوچک‌تر از Gzip فشرده می‌کند و در عین حال عملیات فشرده‌زدایی را ۵ تا ۱۰ برابر سریع‌تر انجام می‌دهد، که این امر زمان نصب نرم‌افزار و مصرف پردازنده سرور را به شدت کاهش می‌دهد.

فشرده‌سازی دیکشنری در Zstd چیست؟

الگوریتم Zstd می‌تواند روی مجموعه‌ای از فایل‌های کوچک (مانند پاسخ‌های API با فرمت JSON) آموزش ببیند تا یک دیکشنری سفارشی ایجاد کند، و به فایل‌های بعدی اجازه دهد با ارجاع به الگوهای مشترک، تا ۵ برابر کوچک‌تر فشرده شوند.

چگونه می‌توانم یک فایل .zst یا .zstd را از حالت فشرده خارج کنم؟

شما می‌توانید فایل‌های .zst و .tar.zst را مستقیماً در مرورگر وب خود با استفاده از File2File.app و بدون نیاز به نصب ابزارهای خط فرمان استخراج کنید.