• 熱門
  • 地方
  • 生活
  • 產經
  • 綜合
  • 娛樂
  • 文教
  • 身心𩆜
  • 醫藥健康
  • 旅遊
  • 美食
  • 體育
  • 法律天地
  • 合作媒體
  • 熱門
  • 地方
  • 生活
  • 產經
  • 綜合
  • 娛樂
  • 文教
  • 身心𩆜
  • 醫藥健康
  • 旅遊
  • 美食
  • 體育
  • 法律天地
  • 合作媒體
最新新聞
2026台灣國際旅遊展秋季展亮相「遇見東北角」展現山海旅遊魅力
日月潭秋季旅展以「旅行軸線」串起湖光、鐵道、山城與原鄉 秋季花火、自行車旅遊一次看
清法戰爭追思首度融入天主教儀式 邱佩琳:尊重共融並彰顯和平可貴
普發1萬南投響掌聲 賴清德肯定温世政顧長輩
職涯卡關怎麼辦? 海苔熊台南開講 教民眾穿越職涯裂縫找回微光
S__120643731
IL20260816174846-banner_816x100-0x100
首頁 » Liquid AI 推 LFM2.5-DSpark 模型 AI 解碼速度飆升 3 倍
合作媒體

Liquid AI 推 LFM2.5-DSpark 模型 AI 解碼速度飆升 3 倍

商傳媒
商傳媒
Published: 2026/08/21
Share
9 Min Read
Liquid AI 推 LFM2.5-DSpark 模型 AI 解碼速度飆升 3 倍
Liquid AI 推 LFM2.5-DSpark 模型 AI 解碼速度飆升 3 倍
圖/本報資料庫

商傳媒|何映辰/台北報導

Liquid AI 於昨日(2026年8月20日)發布了 DSpark 草稿模型(draft model)檢查點,為其 LFM2.5 系列中的三款模型提供加速。此舉號稱在不改變模型輸出結果的前提下,能將人工智慧(AI)的解碼速度(指 AI 模型生成回覆所需的時間)提升最高達 3.18 倍。此系列包含 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 以及 LFM2.5-8B-A1B 三款模型。

DSpark 技術的核心在於為現有的目標模型增加一個推測性解碼路徑(speculative decoding path)。它利用一個約 3 億參數的草稿模型,預先提出九個候選 Token(AI 處理語言的最小單位),然後目標模型在一次前向傳遞(forward pass)中驗證整個候選區塊。這種方法雖然會略微增加記憶體使用量,卻能大幅提升解碼速度。根據報導,該技術在 NVIDIA H100 GPU 上最高可加速 3.18 倍,在 Apple M4 Max MacBook Pro 上則可加速 2.87 倍。由於發出的序列與單獨運行的目標模型完全相同,基準測試的準確度不受影響。

這項技術已獲得 llama.cpp 和 SGLang 這兩個開源框架的支援,其權重(weights)以 Safetensors 和 GGUF 格式發布。開發者若要運行這些模型,需使用支援 DSpark 的 SGLang 或 llama.cpp 版本。

Liquid AI 的 LFM Open License v1.0 規定,年營收低於 1,000 萬美元的實體可免費將此技術用於商業目的。這涵蓋了獨立開發者、新創公司和中小型企業。大型企業則需要事先與 Liquid AI 聯繫以取得商業授權。

DSpark 的應用範圍廣泛,包括本地程式開發助理、在裝置上運行並在每次工具調用前進行推理的代理程式、單一用戶聊天應用程式,以及在筆記型電腦等級硬體上運行的離線副駕駛等。此外,它也能應用於需要將資料保留在本地的醫療、金融和國防工作負載。

值得注意的是,LFM2.5-8B-A1B 模型在 Apple M4 Max 上的加速效果較不明顯,平均僅為 1.18 倍。Liquid AI 將此歸因於 llama.cpp Metal 後端目前對 MoE(Mixture of Experts)架構的實作方式,以及驗證多個 Token 時會啟動更多專家模型,導致更多的權重傳輸。儘管如此,在多工具函式呼叫(multi-tool function-calling)情境下,DSpark 仍能平均將 LFM2.5-2.6B 的延遲降低 57%。整體而言,這項技術的加速效果會根據工作負載的預測性而有所不同,範圍從 1.04 倍到 3.18 倍。

Previous Article 台灣2027國防預算首破兆元 規模達1.12兆元、年增18.2% 台灣2027國防預算首破兆元 規模達1.12兆元、年增18.2%
Next Article 中國信託證暑期回饋 分戶帳、交易抽F1新加坡雙人行 ! 中國信託證暑期回饋 分戶帳、交易抽F1新加坡雙人行 !
  • 關於我們
  • 隱私權政策
  • 聯絡我們
  • 關於我們
  • 隱私權政策
  • 聯絡我們
Copyright©MORE News
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?

為了帶給你更好的瀏覽體驗我們的網站中有使用Cookie,幫助我們改善網站的結構和行銷分析。如果你同意使用請點擊了解,我們會權利提供你更完善的服務!