近年來開源大型語言模型(LLM)的發展速度簡直可以用「日新月異」來形容。最近網路上流傳著一個震撼科技圈的消息——「最強推理模型 Claude 被開源了?」 如果你最近也在各大社群或 YouTube 看到類似
🔍 事實核實:Claude 真的開源了嗎?
先說結論:這不是 Claude 官方(Anthropic 公司)的開源,而是一次極其成功的「開源模仿」。
假的: Claude 依然是商業閉源模型,官方並沒有公開任何核心權重。
真的: 開源社群團隊 Empero AI 推出了一款名為
Qwythos-9B(或 Qwythos-9B-Claude-Mythos)的全新模型。它是基於開源的 Qwen3.5-9B 作為基礎,並吸收了超過 5 億條來自 Claude 內部的推理軌跡(思维鏈数据)。
簡單來說,這就像是讓一個資質優異的開源小學生(9B 參數),去瘋狂死記硬背學霸(Claude)的思考過程與解題邏輯。雖然不是學霸本人,但它成功複製了 Claude 的「思維方式」,因此在名字中冠上了 Claude。
🚀 Qwythos-9B 核心亮點與實測
雖然不是真的 Claude,但這款由開源社群蒸餾出來的 9B 模型,實測表現依據相當驚人:
1. 超低硬體門檻(4GB 顯存就能跑)
官方和社群釋出了 GGUF 量化版本。根據影片實測,如果你的顯示卡只有 4GB 或 6GB 顯存,可以選擇 Q4 或 Q5 的量化版本在本地流暢運行;若是擁有 16GB 以上顯存,則可以直接跑最頂級的 BF16 版本,極大降低了玩本地 AI 的門檻。
2. 百萬級別超長上下文
它支援高達 104 萬(1,048,576)的上下文窗口,是目前少數支援百萬字等級的 9B 級別小模型。這代表你可以直接把整本書或極長的程式專案直接丟給它處理。
3. 真正「無審查」(Uncensored)
這是許多開源愛好者最看重的一點。影片中測試了讓它編寫敏感的「網路發包壓力測試腳本」,如果是官方的 Claude 絕對會秒拒絕,但 Qwythos-9B 完全不會觸發安全過濾,直接大方地給出完整的程式碼。
4. 驚人的程式碼與多模態能力
在實際測試中,Qwythos-9B 的表現完全不像一個只有 9B 大小的模型:
網頁遊戲: 寫出一個包含 3D 視角、氮氣加速、碰撞檢測的賽車遊戲,甚至連手機網頁的觸控操控都一次寫到位。
多模態圖像識別: 換上專用的小寫 F16 多模態視覺模型後,給它一張草地截圖,它就能直接生成一段會隨風擺動的 3D 草地場景代碼。
💻 想要自己玩?本地部署簡易三步驟
如果你也想在自己的電腦上調教這隻小 Claude,可以參考以下的部署邏輯:
下載模型: 前往 Hugging Face 尋找
Qwythos-9B的 GGUF 版本。根據你的顯示卡顯存(4G選Q4、8G選Q8、16G以上選BF16)下載主模型,並視需求下載mprog開頭的視覺多模態模型。準備後端引擎: 下載並解壓最新版本的 Llama.cpp(根據你的顯示卡選擇對應的 CUDA 或 CPU/AMD 版本)。
編寫腳本啟動: 創建一個
mod資料夾放入模型,透過一個簡單的.bat批次檔腳本來加載模型,完成後瀏覽器打開http://127.0.0.1:8080就能直接在網頁介面與它對話。
📝 總結
Qwythos-9B 的出現再次證明了開源社群利用「大模型數據蒸餾」來強化小模型的恐怖潛力。它雖然冠著 Claude 的名字,本質上卻是開源技術的結晶。如果你需要一個低配置、無審查、且具備強大推理與程式碼編寫能力的本地 AI 助手,這款模型絕對值得你下載一試!
沒有留言:
張貼留言