https://x7peeps.com/tags/llama.cpp/index.htmlHugozh-CNFri, 16 Oct 2026 00:30:00 +0800https://x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/7.89GB%E8%A3%85%E4%B8%8B27B2-bit%E9%87%8F%E5%8C%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B%E5%B7%A5%E5%85%B7%E8%B0%83%E7%94%A8%E5%8F%8D%E8%B6%8554GB%E5%8E%9F%E7%89%88%E4%BD%86%E6%9C%89%E4%B8%89%E4%B8%AA%E5%9D%91/index.htmlFri, 16 Oct 2026 00:30:00 +0800https://x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/7.89GB%E8%A3%85%E4%B8%8B27B2-bit%E9%87%8F%E5%8C%96%E6%A8%A1%E5%9E%8B%E5%AE%9E%E6%B5%8B%E5%B7%A5%E5%85%B7%E8%B0%83%E7%94%A8%E5%8F%8D%E8%B6%8554GB%E5%8E%9F%E7%89%88%E4%BD%86%E6%9C%89%E4%B8%89%E4%B8%AA%E5%9D%91/index.htmlConway Research（Underdog）10 月上旬发布了一个 7.89GB 的 GGUF 文件 Saluki 27B——底层是阿里 Qwen3.8-27B，原版 BF16 权重 54GB，这个 2-bit 混合量化版本（IQ2-mix）体积砍了近 7 倍。官方宣称"九项基准平均保留 96% 能力"，发布后登上多家科技媒体。