
商傳媒|責任編輯/綜合外電報導
矽谷新創公司Gimlet Labs近期宣布,已成功完成A輪融資,募得八千萬美元(約新台幣26億元)資金。此筆資金主要用於發展其獨特的軟體平台,旨在解決人工智慧(AI)推理運算所面臨的規模化效率挑戰。
隨著AI技術普及,模型應用日益廣泛,AI推理作業每日處理數十億次查詢,其高昂的成本與資源耗用已成為一大隱憂。目前AI基礎設施的運作效率偏低,利用率僅約15%至30%,這使得擴展AI服務時常遭遇瓶頸。據統計,全球資料中心投資預計在2030年前將達到近七兆美元,顯示AI運算需求龐大,基礎設施的優化刻不容緩。
為此,Gimlet Labs開發出一套「多晶片推理雲端」(multi-silicon inference cloud)軟體平台。這項平台能將AI工作負載拆解成更小的部分,並智慧分配至不同類型的硬體上同時執行,例如中央處理器(CPU)、圖形處理器(GPU)以及專用AI加速器等。其核心優勢在於能夠跨越硬體限制,支援包括NVIDIA、AMD、Intel、ARM、Cerebras和d-Matrix等多家廠商的處理器,大幅提升運算彈性與資源運用效率。
Gimlet Labs的產品主要鎖定大型AI模型開發商與雲端運算服務供應商。透過此技術,Gimlet Labs期望能重新定義資料中心的AI運作模式,以靈活的跨平台協調取代傳統針對特定硬體的最佳化,協助企業最大化現有硬體資源的價值。此次由Menlo Ventures、Factory、Eclipse Ventures、Prosperity7 Ventures、Triomatic Capital等多家創投公司領投的八千萬美元A輪融資,將支持Gimlet Labs持續精進其技術,並進一步驗證其多晶片策略的可行性,也反映出創投界對於專注提升AI運作效能與降低成本的基礎設施新創公司,抱持高度信心。