一、30 秒看懂：它是誰、不是誰
| 項目 | 內容 |
|---|---|
| 它是什麼 | 阿里雲 Qwen 團隊的開放權重多模態大型語言模型：會聊天、會寫程式、會看圖 |
| 發布時間／授權 | 2026-08-26／Qwen Community License 1.0（個人使用免費，商用請詳讀條款） |
| 體型 | 主模型 125B 參數，但每個字只點亮 6B；另附 51B n-gram 詞表 + 4B MTP 加速模組 |
| 上下文 | 原生 262,144 token，官方可擴到 1,000,000（約等於整本維基等級的長文件） |
| 無審查版 | 社群 abliterated 版：同一組刁鑽測試題，原版拒絕 10/10 次，無審查版 0/10，品質僅掉約 7% |
| 最低硬體 | x86 CPU（AVX2）＋ 32GB RAM ＋ 12GB VRAM 顯示卡 ＋ 約 100GB 磁碟——不用 NVIDIA，AMD 卡也行 |
| 它不是什麼 | 不是 ChatGPT 訂閱服務：沒有網頁介面（要自己裝前端）、沒人幫你維運、答案品質取決於你載入的量化版 |
二、「開放權重」到底開放了什麼
你用 ChatGPT、Gemini 時，AI 的「大腦」永遠在對方的資料中心，你的對話經對方的伺服器，按字數或月費計價。開放權重（open weights）則是把整個訓練好的模型檔案讓你看見並下載——下載回來約 70～95 GB，放進自己電腦，從此刻起：
- 離線可用：拔網路線照樣問，飛機上、工廠內網、隱私敏感資料都能用。
- 沒有人看你的對話：所有運算都發生在你的記憶體裡。
- 沒有用量限制與漲價問題： 電費自己付。
- 可以被改造：量化壓縮、插控制向量（下一章的無審查版就是最著名的例子）、蒸餾成小模型。
名字裡的 Next 也不是行銷話術：官方說明它是下一代 Qwen4 架構的提前預覽（全新的 Gated DeltaNet ＋ 稀疏注意力混合架構），學術與開發圈把它視為 Qwen4 的「公開試吃版」。官方自己託管的 API 版本則叫 Qwen3.8-Flash（預設 1M 上下文、附官方工具），而本篇主角是能搬回家的那個。
三、125B 的巨人，為什麼一般電腦跑得動？
這是新手最大的疑惑：125B 參數聽起來要資料中心等級的硬體，為什麼一篇教學敢說 32GB RAM 的家用機就能跑？答案是三個設計：
1. MoE 混合專家：512 個專家，每次只叫醒 11 個
傳統模型是「一個全科醫生」，每次回答整顆腦都亮；MoE（Mixture of Experts）把模型拆成 512 個專家小網路，前面站一位「讀診台」（路由器）。每吐出一個字，讀診台只挑 10 個路由專家＋1 個共享專家作答——其餘 501 個在旁邊睡覺。所以它總參數 125B（腦容量）但每個字只激活 6B（速度快費），約 1/20。
2. 51B 的「超級字典」掛在外面
它另外掛了一張 51B 的 n-gram embedding 表——白話說是一本查字用的超級字典，把大量重複的字詞組合查詢外包給查表，讓「腦」本身可以更精簡。字典很佔空間、但查詢很便宜。
3. MTP：一次猜好幾個字
那個 4B 的 MTP（Multi-Token Prediction）模組像聊天時會幫你接話的朋友：先大膽猜接下來幾個字，主模型再一次核對。猜對就等於一次吐好幾個字，生成速度大幅加速。
四、本文重點：無審查版是怎麼做出來的？掉多少品質？
原版為什麼會拒絕你
所有正式發布的聊天模型都經過「安全對齊」訓練：碰到敏感話題會說教、換話題、或直接拒絕。對寫小說是創作、查藥理是學術、問兩性健康是醫療資訊的正常使用者在問正當問題時，這套機制常常一刀切——同一個問題丟給 GPT 和丟給本地無審查版，一個開始念規範條文，一個直接給答案，這就是社群願意折騰的動機。
無審查（abliteration）不是重新訓練，是「拔掉說教的方向」
2024 年一篇知名論文（Arditi 等人，NeurIPS 2024）發現：模型的拒絕行為，在內部向量空間裡其實只沿著一個方向運作，像一條「我要拒絕」的神經。把這條方向從活化值裡減掉，模型就不再拒絕，而且其他能力幾乎不受影響。
社群裡專門做這件事的模組製作者 huihui-ai 把 Qwen3.8-Flash-Next 的「拒絕方向 r」找了出來；另一位作者 alesha-pro 把它做成一個 480 KB 的控制向量檔案，搭配 Strata 引擎在執行時於每層做一道減法：
h = h − (h·r)·r ——白話版：每次模型腦中浮現「我應該拒絕」的衝動，就把這個衝動從輸入減掉再往下傳。
注意兩個關鍵：模型權重一個字都沒改（向量可以隨時關掉，一秒變回原廠版）；它移走的是「拒絕的衝動」，不是往腦裡塞新知識，所以品質才會只掉一點點。
數據說話：拒絕歸零，品質掉約 7%
以下是 alesha-pro 在其模型頁發布的量測（RTX 3090、IQ3_S 量化版，官方自報、未經第三方重現）：
| 配置 | 10 道刁鑽題拒絕率（一般模式） | 10 道刁鑽題拒絕率（思考模式） | 與原版輸出首字相同率 |
|---|---|---|---|
| 原版模型 | 10 / 10 | 9 / 10 | 基準（92.5% vs BF16） |
| ＋無審查控制向量 | 0 / 10 | 0 / 10 | 93.0%（KL 分歧甚至低於原版） |
實際工作能力：5 道真實程式任務，原版和無審查版都是 5/5 通過，包括需要多輪修正的迭代任務。翻譯成白話：拒絕行為被清乾淨了，代價是每次輸出大約 7% 的機率與原版選字不同——對照它換回來的東西，多數社群玩家認為值得。
社群無審查版在哪裡下載
| 倉庫（Hugging Face） | 特色 |
|---|---|
| alesha-pro/Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata-GGUF | ⭐ 本文首選：Strata 引擎直接可用，附 480 KB 控制向量＋視覺模組，附完整量測報告 |
| SC117/Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF | GGUF 格式，llama.cpp 與 Strata 都能載入（向量需另外加） |
| windowsxp811203/Qwen3.8-Flash-Next-Abliterated-GGUF | 標準 GGUF，相容性最廣 |
| 0bserverx/RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored-GGUF | 直接以「uncensored」為賣點的版本 |
血統都要講清楚：這些倉庫全部是把 Qwen 官方權重用 ISTA-DASLab（GSQ+RCO）或 unsloth（UD）量化後，疊上 huihui-ai 的拒絕方向重打包——沒有任何一個是「另一顆腦」。全部授權仍是 Qwen Community License。
五、硬體需求：三級分看懂你的電腦能不能跑
重點觀念：記憶體（RAM）決定能不能跑，顯示卡 VRAM 決定多快。MoE 的專家平時住在 RAM 裡，VRAM 只放「最常上門的那幾間」。量化版（把權重壓縮變小的技術）越小越省越快，也越不聰明：
| 等級 | RAM | 建議量化版 | 下載容量 | 負載後吃 RAM |
|---|---|---|---|---|
| 入門 | 32 GB | Q2_0／IQ2_XS | 約 66–68 GB | 約 34–36 GB |
| 甜心點 | 64 GB | IQ2_XS（CP 值最高） | 約 68 GB | 約 36 GB |
| 高階 | 80 GB＋ | IQ3_S／unsloth UD-IQ4_XS | 約 84–94 GB | 約 50–80 GB |
- 顯示卡：NVIDIA RTX 20／30／40／50 系都行，12GB VRAM 最舒服（10GB 可跑）；AMD Radeon 也支援（RX 6000／7000／9000 系，走 ROCm/HIP 路線）——本站實測機就是雙張 AMD。
- CPU：2013 年後的 CPU 幾乎都支援 AVX2，Ryzen 5000／Intel 10 代之類即可；核心越多，首字越快。
- 磁碟：模型 70–95GB，建議預留 120GB SSD。
- Mac：不在這條路線圖上（Strata 僅支援 Windows／Linux）。
六、速度實測：會不會等到睡著？
| 機器／情境 | 生成速度（decode） | 來源 |
|---|---|---|
| RTX 3090＋IQ3_S，短上下文 | 約 58–59 token/s | alesha-pro 量測 |
| RTX 3090＋IQ3_S，131K／261K 長上下文 | 約 47／40 token/s | alesha-pro 量測 |
| 本站實測機：B550＋R7 5700X＋80GB RAM＋雙 AMD（RX 6700 XT 12GB＋RX 6600 8GB）＋UD-IQ4_XS 94GB | 約 33–42 token/s（98K 上下文） | 本站日常運轉日誌 |
30–40 token/s 大約是每秒輸出 20～30 個中文字，比你閱讀還快，對話體驗合格。但要認識本地部署最大的落差：首個字（prefill）。短提問幾秒內回覆；但丟一個兩萬 token 的長文件冷啟動，家用機要等 3～4 分鐘讓它「讀完」。同一個對話的第二輪開始會重用之前的計算（重用率可達 96–99%），變成秒回——所以它適合「一個長對話一直聊」，不像雲端服務那樣每則都熱騰騰。
七、它能做什麼：接上你自己的 App
- 看圖：內建視覺編碼器（載入 0.9GB 的 mmproj 檔案即可），拍照問它、讀截圖、看設計稿。
- 讀長文件：原生 262K token，整本手冊、幾年的對話歷史塞進去不用切碎。
- 寫程式與代理任務：工具呼叫、多輪迭代都能勝任，很多讀者拿它驅動的程式代理寫檔改 code。
- OpenAI／Anthropic 相容 API：Strata 起服務後就是一個本機 API，Open WebUI、LobeChat、Hermes Agent、VS Code 助手都能直接接上——你的「私有 ChatGPT」前端隨便挑。
- 思考模式可關：同一顆腦，要快就關思考、要深就開思考。
八、上手路線圖：三條路與一篇實戰教學
- Strata（新手首選）：C++ 寫的 MoE 專用推理引擎，免費開源、一條指令完成安裝與模型下載，原生支援 AMD 卡，Windows／Linux 都行，開機就能拿到
http://127.0.0.1:8080的 OpenAI 相容 API。 - llama.cpp（老手自駕）：新版（b11429＋）已認得這個 qwen4exp 架構，載 SC117／unsloth 的 GGUF 即可；彈性最大但參數自己調。
- vLLM／SGLang（企業多張卡）：官方推薦的高吞吐路線，需要資料中心級 VRAM，家用環境不必考慮。
👉 從空白硬碟、裝 Ubuntu、插雙張 AMD 顯卡、到開機自啟的完整白癡級教學（同配置實測）：Qwen3.8-Flash-Next 從零安裝 Linux 完整教學。模型下載用 huggingface-cli，1Gbps 網路下載 IQ2_XS 約十幾分鐘。
九、入坑前必讀的五盆冷水
- 量化一定有損：你載的 IQ2/IQ3 都是壓縮版，跟官方全精度（BF16）有差距，別拿它跟 ChatGPT 全功率版比智力。
- 無審查版再掉約 7% 輸出偏移：數據來自製作者自報，未經獨立重現；寫小説可能沒感，嚴謹任務建議開思考模式補回。
- 冷啟動首字慢：長上下文第一輪要等，跟雲端服務的使用手感完全不同。
- 家用機一次只接一單：一個服務槽串行回應，同時丟多個請求會排隊——它是你的私人 AI，不是多人 SaaS。
- 法遵與授權自己扛：Qwen Community License 對商用有條件；無審查版的內容責任在使用者（見第四章警語）。本地跑的好處是隱私，不是免死金牌。
十、延伸閱讀
- Qwen3.8-Flash-Next 從零安裝 Linux 完整教學（B550 × RX 6700 XT＋RX 6600 × Strata 實戰）
- Reflection 開源 Beam：美國實驗室的首個開放前沿模型
- Markdown 完整語法指南
資料來源與致謝
本文硬件數據為本站實測，其餘引自下列官方與社群來源；文中提到的第三方專案與作者一併標註出處：
- Qwen 官方模型卡：Hugging Face — Qwen3.8-Flash-Next · GitHub 官方說明（參數、上下文、授權）
- 無審查控制向量與量測：alesha-pro — Strata-GGUF 倉庫（拒絕率、KL、Top-1 數據出處）
- 拒絕方向製作者：huihui-ai — Huihui-Qwen3.8-Flash-Next-abliterated
- 學術源頭：Arditi et al.《Refusal in Language Models Is Mediated by a Single Direction》（NeurIPS 2024，拒絕單向理論）
- 量化：ISTA-DASLab（GSQ+RCO） · unsloth（UD 量化）
- 推理引擎：Strata（Niko1221） · llama.cpp（ggml-org）
- 本站速度數據：從零安裝教學篇內附的日誌實測（同機同期）