<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>本地推理 :: 标签 :: x7peeps</title><link>https://x7peeps.com/tags/%E6%9C%AC%E5%9C%B0%E6%8E%A8%E7%90%86/index.html</link><description/><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Sun, 04 Oct 2026 22:30:00 +0800</lastBuildDate><atom:link href="https://x7peeps.com/tags/%E6%9C%AC%E5%9C%B0%E6%8E%A8%E7%90%86/index.xml" rel="self" type="application/rss+xml"/><item><title>Rapid-MLX 实测：框架提速是真的，MTP 推测解码是负的</title><link>https://x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Rapid-MLX%E5%AE%9E%E6%B5%8B%E6%A1%86%E6%9E%B6%E6%8F%90%E9%80%9F%E6%98%AF%E7%9C%9F%E7%9A%84MTP%E6%8E%A8%E6%B5%8B%E8%A7%A3%E7%A0%81%E6%98%AF%E8%B4%9F%E7%9A%84/index.html</link><pubDate>Sun, 04 Oct 2026 22:30:00 +0800</pubDate><guid>https://x7peeps.com/AI/06-AI%E5%B7%A5%E7%A8%8B%E5%8C%96/Rapid-MLX%E5%AE%9E%E6%B5%8B%E6%A1%86%E6%9E%B6%E6%8F%90%E9%80%9F%E6%98%AF%E7%9C%9F%E7%9A%84MTP%E6%8E%A8%E6%B5%8B%E8%A7%A3%E7%A0%81%E6%98%AF%E8%B4%9F%E7%9A%84/index.html</guid><description>Rapid-MLX 实测：框架提速是真的，MTP 推测解码是负的 一句话结论：框架本身对 Ollama 的提速成立（轻载最高 3.9 倍），但官方宣传排在最前面的 MTP 推测解码，在混合架构模型上实测吞吐反降三到四成——官方文档自己也承认这类场景「比关闭慢 20%」。这不是配置问题，是架构边界。</description></item></channel></rss>