
商傳媒|責任編輯/綜合外電報導
日本科技媒體《GIGAZINE》今日報導,由 AI 開發公司 PrismML 於今年 3 月 31 日發表的 80 億參數 AI 模型「1-bit Bonsai 8B」,已成功在 iPhone 17 Pro 上本地運行,且記憶體佔用量僅為 1.15GB,此舉展現智慧型手機在運行大型 AI 模型方面的潛力。
報導指出,這款模型透過免費應用程式「Locally AI」在 iPhone 17 Pro 上進行實測。測試者依照程序安裝後,發現該模型不僅啟動迅速,其記憶體需求更遠低於預期。根據官方數據,此模型雖然具備 80 億個參數,但實際運作時卻只消耗 1.15GB 記憶體,相較於其他同等或更高效能的模型,其記憶體使用效率高出 14 倍。
實測中,測試者向「1-bit Bonsai 8B」發出「Hello」指令,模型隨即進行自我介紹。當被問及「我該為我的 iPhone 貼螢幕保護貼嗎?」時,模型給出出人意料的建議,表示:「只要保持 iPhone 螢幕清潔,例如用手指輕輕滑過或擦拭螢幕即可。」甚至還提出「PC 磁碟保護」等非主流建議。
然而,該模型在數學運算方面表現出較高準確性。當測試者輸入「製作 1 杯番茄汁需要 5 顆番茄。那麼製作 6 杯番茄汁需要多少顆番茄?」時,「1-bit Bonsai 8B」正確回答 30 顆,並清楚解釋運算過程為「6 杯 x 5 顆番茄 = 30 顆番茄」。