GGUF

3 篇文章

1. 模型量化与压缩技术：GPTQ、AWQ、GGUF与FP8的工程实践指南

   ai 2026-11-14

2. 7.89GB装下27B：2-bit量化模型实测，工具调用反超54GB原版，但有三个坑

   ai 2026-10-16

3. Qwen3.8-Flash-Next 本地部署评估：360B 级 MoE 模型的路线选择

   ai 2026-08-27