隨著各產業積極導入人工智慧（AI），企業在將AI應用從實驗階段推向實際生產的過程中，面臨基礎設施不足的挑戰。專家指出，傳統雲端基礎設施在設計上著重資訊規模，而非現代AI所需的智慧規模，導致企業在AI發展上遭遇瓶頸。
矽谷科技媒體 SiliconANGLE 報導，顧問機構 ZK Research 首席分析師 Zeus Kerravala 指出，許多企業資訊長（CIO）反映，傳統雲端基礎設施是為處理交易、網路流量和儲存等資訊規模需求而設計，無法滿足現代AI對智慧規模的要求。
根據雲端供應商 QumulusAI 與 HyperFRAME Research 共同發布的報告顯示，企業在AI領域正進入「效率競賽」階段，不再追求大型、All-in-one 的模型，而是轉向更小、更專業的模型，這也意味著需要更快的迭代週期。然而，傳統的運算模式，從申請、分配到實際運作，往往耗時數週，嚴重影響AI開發所需的敏捷性，例如微調、測試和快速改進。
為協助企業評估其AI整備度，QumulusAI 提出 FACTS 架構，旨在解決現代AI基礎設施的痛點：
- 靈活性（Flexibility）： 擺脫單一規格的雲端實例，允許團隊從快速原型設計所需的少量GPU，無縫擴展到生產訓練所需的裸機叢集。
- 存取性（Access）： 分散式GPU容量至關重要，團隊不應受限於特定區域的可用性，或與其他團隊競爭單一雲端供應商的稀缺資源。
- 成本（Cost）： AI領域的雲端擴張往往隱藏著出口、儲存和高級支援費用，可預測、透明的定價是長期容量規劃的先決條件。
- 信任（Trust）： 在AI快速變化的時代，企業需要的是合作夥伴，而非單純的交易關係，這意味著需要關注長期容量保證和以安全為先的分散式架構。
- 速度（Speed）： 這是當前時代的決定性指標，資源配置必須在數小時內完成，而非數週。否則，AI創新所需的「快速失敗」開發方法將難以維持。
QumulusAI 提出「超高速運算」（hyperspeed compute）的概念，認為企業AI的未來將是混合式的。大型雲端供應商在提供全球覆蓋和整合軟體生態系統方面仍然至關重要，但成功的企業會透過專業的AI基礎設施供應商來增強這些平台，將特定的、高速度的AI工作負載（如訓練和模型微調）轉移到專為此目的構建的基礎設施上，從而繞過傳統雲端配置的延遲。
Kerravala 認為，「基礎設施速度差距」是真實存在的。如果開發新AI功能的障礙是需要等待三週才能獲得GPU運算週期，那麼創新的成本將變得過高。對企業而言，這代表客戶選擇和採購AI資源的方式正在發生轉變。在AI領域取得領先地位的企業，將把基礎設施視為戰略資產，而不是商品。他建議，企業應採用分散式、專用的AI基礎設施，以確保其獲得洞察的時間與演算法本身一樣快。
Kerravala 總結，資訊科技領導者應牢記，基礎設施的選擇現在是一種戰略差異化。那些繼續將AI運算視為標準雲端服務的公司，將會被那些能夠快速擴展、迭代和部署的公司超越。企業應參考 FACTS 架構，以確保其基礎設施是為智慧時代的速度而構建，而不僅僅是資訊時代。
對於台灣企業而言，在AI應用快速發展的同時，如何評估現有基礎設施的瓶頸，並採取相應的升級或轉型策略，將是提升AI競爭力的關鍵。選擇合適的雲端服務和硬體設備，建立彈性、高效的AI運算環境，將有助於台灣企業在AI浪潮中脫穎而出。
