2026年6月24日 星期三

【AI 新聞】Claude 真的被開源了?Qwythos-9B 本地部署實測:無審查、百萬上下文,4GB 顯存就能跑!

近年來開源大型語言模型(LLM)的發展速度簡直可以用「日新月異」來形容。最近網路上流傳著一個震撼科技圈的消息——「最強推理模型 Claude 被開源了?」 如果你最近也在各大社群或 YouTube 看到類似 零度解說的評測影片,一定會好奇:這到底是標題黨,還是真有其事?今天這篇文章就來幫大家拆解這款話題模型 Qwythos-9B 的真面目,並分享本地部署的實測心得!


🔍 事實核實:Claude 真的開源了嗎?

先說結論:這不是 Claude 官方(Anthropic 公司)的開源,而是一次極其成功的「開源模仿」。

  • 假的: Claude 依然是商業閉源模型,官方並沒有公開任何核心權重。

  • 真的: 開源社群團隊 Empero AI 推出了一款名為 Qwythos-9B(或 Qwythos-9B-Claude-Mythos)的全新模型。它是基於開源的 Qwen3.5-9B 作為基礎,並吸收了超過 5 億條來自 Claude 內部的推理軌跡(思维鏈数据)

簡單來說,這就像是讓一個資質優異的開源小學生(9B 參數),去瘋狂死記硬背學霸(Claude)的思考過程與解題邏輯。雖然不是學霸本人,但它成功複製了 Claude 的「思維方式」,因此在名字中冠上了 Claude。


🚀 Qwythos-9B 核心亮點與實測

雖然不是真的 Claude,但這款由開源社群蒸餾出來的 9B 模型,實測表現依據相當驚人:

1. 超低硬體門檻(4GB 顯存就能跑)

官方和社群釋出了 GGUF 量化版本。根據影片實測,如果你的顯示卡只有 4GB 或 6GB 顯存,可以選擇 Q4 或 Q5 的量化版本在本地流暢運行;若是擁有 16GB 以上顯存,則可以直接跑最頂級的 BF16 版本,極大降低了玩本地 AI 的門檻。

2. 百萬級別超長上下文

它支援高達 104 萬(1,048,576)的上下文窗口,是目前少數支援百萬字等級的 9B 級別小模型。這代表你可以直接把整本書或極長的程式專案直接丟給它處理。

3. 真正「無審查」(Uncensored)

這是許多開源愛好者最看重的一點。影片中測試了讓它編寫敏感的「網路發包壓力測試腳本」,如果是官方的 Claude 絕對會秒拒絕,但 Qwythos-9B 完全不會觸發安全過濾,直接大方地給出完整的程式碼。

4. 驚人的程式碼與多模態能力

在實際測試中,Qwythos-9B 的表現完全不像一個只有 9B 大小的模型:

  • 網頁遊戲: 寫出一個包含 3D 視角、氮氣加速、碰撞檢測的賽車遊戲,甚至連手機網頁的觸控操控都一次寫到位。

  • 多模態圖像識別: 換上專用的小寫 F16 多模態視覺模型後,給它一張草地截圖,它就能直接生成一段會隨風擺動的 3D 草地場景代碼。


💻 想要自己玩?本地部署簡易三步驟

如果你也想在自己的電腦上調教這隻小 Claude,可以參考以下的部署邏輯:

  1. 下載模型: 前往 Hugging Face 尋找 Qwythos-9B 的 GGUF 版本。根據你的顯示卡顯存(4G選Q4、8G選Q8、16G以上選BF16)下載主模型,並視需求下載 mprog 開頭的視覺多模態模型。

  2. 準備後端引擎: 下載並解壓最新版本的 Llama.cpp(根據你的顯示卡選擇對應的 CUDA 或 CPU/AMD 版本)。

  3. 編寫腳本啟動: 創建一個 mod 資料夾放入模型,透過一個簡單的 .bat 批次檔腳本來加載模型,完成後瀏覽器打開 http://127.0.0.1:8080 就能直接在網頁介面與它對話。


📝 總結

Qwythos-9B 的出現再次證明了開源社群利用「大模型數據蒸餾」來強化小模型的恐怖潛力。它雖然冠著 Claude 的名字,本質上卻是開源技術的結晶。如果你需要一個低配置、無審查、且具備強大推理與程式碼編寫能力的本地 AI 助手,這款模型絕對值得你下載一試!


沒有留言: