• 熱門
  • 地方
  • 生活
  • 產經
  • 綜合
  • 娛樂
  • 文教
  • 身心𩆜
  • 醫藥健康
  • 旅遊
  • 美食
  • 體育
  • 法律天地
  • 合作媒體
  • 熱門
  • 地方
  • 生活
  • 產經
  • 綜合
  • 娛樂
  • 文教
  • 身心𩆜
  • 醫藥健康
  • 旅遊
  • 美食
  • 體育
  • 法律天地
  • 合作媒體
最新新聞
真如禪寺又捐百萬助嘉監 「釋了空無雲和尚,收容人子女獎助學金」累積善款已達1300萬
《型男大主廚》抓牢女性觀眾20年 4270集破紀錄
2026 台北電影節形象廣告曝光 曾敬驊變身時空旅人
走讀新體驗 台中中區建立專屬街區識別 三大商圈變身生活美學展示
鄭麗文會見谷立言 雙方強調:兩岸關係應持續透過對話與和平發展來推進
S__55287864
墨水映像數位行銷有限公司-w800xh98px
02.Banner_工作區域 1-F
165打詐儀錶版FOR墨新聞
979582
114污水banner
1140707-0720-地價稅
1140721-0803-電子稅單
首頁 » 以小搏大!AI工程師開發「縫合怪」模型性能超越阿里大模型
合作媒體

以小搏大!AI工程師開發「縫合怪」模型性能超越阿里大模型

商傳媒
商傳媒
Published: 2026/04/23
Share
9 Min Read
以小搏大!AI工程師開發「縫合怪」模型性能超越阿里大模型
以小搏大!AI工程師開發「縫合怪」模型性能超越阿里大模型
圖/本報資料庫

商傳媒|責任編輯/綜合外電報導

Contents
  • 突破硬體限制 低功耗超越大型模型
  • 過度推理成瓶頸 仍具廣泛應用潛力

一名 AI 工程師 Kyle Hessling 近期透過結合多款頂尖大型語言模型(LLM),成功打造出一個 180 億參數的「縫合怪」(frankenmerge)模型。這款模型不僅能在消費級硬體上執行,其表現更超越了中國科技巨擘阿里巴巴(Alibaba)旗下更大規模的 350 億參數模型,展現了開源社群在 AI 技術整合上的巨大潛力。

根據《Decrypt》報導,Kyle Hessling 將來自 Jackrong 開發的兩個微調模型——Qwopus 3.5-9B-v3.5(融合了 Claude 4.6 Opus 的推理風格)以及 Qwen 3.5-9B-GLM5.1-Distill-v1(基於 z.AI 的 GLM-5.1 教師模型訓練)——以「直通式縫合合併」(passthrough frankenmerge)技術進行整合。他將前者的 0 至 31 層與後者的 32 至 63 層堆疊,形成一個總共 64 層的新模型。

突破硬體限制 低功耗超越大型模型

這項創舉面臨的挑戰之一是 Qwen 3.5 混合線性/全注意力架構,現有合併工具無法直接支援。Kyle Hessling 為此開發了客製化的合併腳本,並在初步合併後,透過 QLoRA 技術進行了 1,000 步的「修復微調」(heal fine-tune),以解決模型層邊界造成的混亂程式碼輸出問題。

最終誕生的 180 億參數模型在 44 項能力測試中通過了 40 項。最引人矚目的是,它在 Q4_K_M 量化後僅需 9.2 GB 的顯示記憶體(VRAM),理論上可在 NVIDIA RTX 3060 等相對平價的繪圖處理器(GPU)上運作。相較之下,阿里巴巴的 Qwen 3.6-35B-A3B MoE 模型需高達 22 GB 的 VRAM,但在測試中卻被 Kyle Hessling 的「縫合怪」模型超越。

過度推理成瓶頸 仍具廣泛應用潛力

然而,該模型也存在挑戰。測試發現,其在某些任務上會出現「過度思考」的現象,產生冗長的推理鏈,甚至達到令牌限制(token limits)。例如,要求模型生成一個貪食蛇遊戲的程式碼時,竟耗費超過 40 分鐘進行推理。這種傾向在 Qwopus 系列中已是已知問題,由於堆疊了兩個推理蒸餾模型,可能使此行為在特定提示下被放大。這對於希望在消費級硬體上運行嚴肅應用程式的用戶而言,可能成為日常使用上的瓶頸。

儘管如此,這項成就凸顯了開源社群的創新力量:一位匿名的開發者發布專業微調模型與訓練指南,另一位愛好者則利用客製腳本進行堆疊與修復,最終創造出一個比大型實驗室發布模型更小、性能更佳的模型。這款模型在發布的頭兩週內便累積超過三千次下載,顯示其廣受關注。這類「從底層解決方案到專業化」的開源協作模式,正逐步縮小個人專案與前沿部署之間的差距,讓更多開發者能夠參與其中。

Previous Article 巨鯨狂擲 114 萬美元以太幣 轉進迷因幣 ASTEROID 價格飆逾 15% 巨鯨狂擲 114 萬美元以太幣 轉進迷因幣 ASTEROID 價格飆逾 15%
Next Article 反戰遊戲《This War of Mine》重製回歸 開發商強調連結加薩戰火 反戰遊戲《This War of Mine》重製回歸 開發商強調連結加薩戰火

近期文章

  • 休士頓推免費 AI 培訓課程 助中小企業掌握人工智慧商機
  • AI 測試揭舊驅動程式缺陷 Linux 核心擬移除逾 2.7 萬行程式碼
  • 聯準會準主席凱文·沃什表態鷹派立場 衝擊美股道瓊指數
  • 「三項提升」助日本經濟復甦 野村證券:2026 年望迎「四方皆好」
  • Xbox Game Pass 月費漲五成引反彈 微軟高層認「太貴」擬推新方案

近期留言

尚無留言可供顯示。
  • 關於我們
  • 隱私權政策
  • 聯絡我們
  • 關於我們
  • 隱私權政策
  • 聯絡我們
Copyright©MORE News
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?

為了帶給你更好的瀏覽體驗我們的網站中有使用Cookie,幫助我們改善網站的結構和行銷分析。如果你同意使用請點擊了解,我們會權利提供你更完善的服務!