▲大合照。(圖/陽明交大提供)
【亞太新聞網/記者蔣彤雲/新竹報導】
陽明交大與耐能智慧（Kneron）今(30) 日共同宣布，由耐能智慧捐贈三臺高性能AI設備，共同推動生成式人工智慧、大型語言模型與邊緣智慧運算相關教學與研究，強化實際部署與系統整合的能力，並共同推動低功耗AI系統於實際場域的落地應用。
耐能智慧捐贈三臺高性能AI設備導入後，陽明交大可將AI教學與研究從模型訓練延伸至實際部署與系統整合，學生可在校內進行大型語言模型推論與優化、生成式AI應用開發，以及模型量化、知識蒸餾等關鍵技術實作，並進一步將模型部署至終端設備，驗證即時運算與實際應用情境。
▲耐能智慧為陽明交大引入低功耗、可邊緣部署的AI平臺。(圖/陽明交大提供) (圖/記者蔣彤雲攝)
陽明交大副校長唐震寰表示，人工智慧的發展正從單純追求算力規模，邁向兼顧能效、延遲與部署彈性的系統架構競爭，對大學而言，關鍵不僅在於擁有高性能運算資源，也須具備能支援新世代AI應用的基礎設施，此次耐能智慧為校內引入低功耗、可邊緣部署的AI平臺，象徵在既有現有運算基礎上，進一步導入邊緣運算能力，朝向「雲邊協同」的新型AI基礎架構發展。
耐能智慧創辦人暨執行長劉峻誠則指出，隨著生成式 AI 與大型模型快速發展，產業對算力的需求已從單純追求規模，轉向效率、能耗與實際部署能力的平衡，未來AI將不再僅存在於雲端，而是逐步進入各類終端與邊緣設備，KNEO 300 正是在此趨勢下設計，期望用比傳統 GPU更低的功耗，提供可支援大型語言模型與生成式 AI 的實用平臺，並讓學界能更早接觸實際部署環境，培養具備系統整合能力的人才。
電機系方凱田主任表示，設備將導入現有「人工智慧導論」、「大型語言模型」與「生成式人工智慧」課程，讓學生實際參與模型優化與部署流程，培養跨越軟硬體的系統整合能力，對研究團隊而言，該平臺可用於驗證生成式AI、個人化模型及體現智慧等前瞻技術在推論效率、能耗與部署成本上的可行性，成為研究成果從理論走向應用的關鍵基礎。
方凱田主任表說，未來AI將逐步進入各類終端設備，隨著生成式AI應用從雲端走向終端裝置，此次的挹注與合作也被視為學界強化AI落地能力、銜接產業需求的重要一步。
