為因應生成式AI快速興起及聯合國教科文組織（UNESCO）於2024年公布的《學生人工智慧能力架構》，臺北市政府教育局持續推動AI教育，率先全國發布自編《資訊素養與倫理》教材最新單元－「AI未來新世界」，114學年度起提供全市高國中小學校教師運用，為全國首創結合AI技術、資訊倫理與課程應用的教育資源。
局長湯志民指出，AI時代下，教育著重培養學生能理解、善用AI，並成為具備倫理判斷及人文關懷的AI時代公民，因此教育局和專家學者團隊在進行文獻研究後，提出學生在AI世代應具備四大核心素養，包括「以人為本思維」、「倫理道德」、「AI技術應用」與「AI系統設計」，並據此發展出「基本素養」、「技術養成」與「管理應用」等三大AI教學策略，含括配合科技發展脈動發佈、更新教學綱要與相關教材，並且推動三語課程計畫、新科技學程計畫，最終結合導入AI服務「酷AI學習系統」及「CooC+影音串流學習平台」，養成孩子以AI輔助學習素養。
《資訊素養與倫理》教材最新單元－「AI未來新世界」，分別針對高中職、國中、國小三個學層不同學習重點編撰，每個學層皆分為上下冊，上冊著重培養學生對AI基本認識，下冊則以建立學生資訊倫理為重點，包含生成式AI真偽辨別、資料偏誤與應用技巧、法律與社會議題等倫理面的探討；以國中版為例，教材針對AI的發展及生成式AI技術原理提供基礎說明，並充分探討生成式AI在圖像、音樂、影片創作的應用及倫理挑戰，並提及學生使用生成式AI時如何保護自己、尊重他人並謹守法律規範，養成適應未來科技變遷能力。
該局表示，參與本次教材彙編工作明德國中陳妤蓁教師，以自身豐富教學經驗分享教學現場如何引導學生培養數位素養，例如，針對目前常見的「深度偽造(deepfake)」，利用AI讓兩張照片中的人物進行互動或透過換臉進行詐騙等，引導學生認識利用AI進行圖像或影音互動的潛在風險，進而培養學生謹慎使用相關技術的態度，並瞭解使用AI技術應具備的法律知識、著作權、肖像權和尊重他人的資訊科技素養。在實際教學的應用上，陳老師分享具體的做法，如使用「酷AI學習系統輔助作文寫作」利用AI撰寫參考作文，提供學生發想範例，後續學生完成作文後，再利用「酷AI學習系統輔助作文寫作」評分結果，深入瞭解自己作文可改進之處。「使用AI進行音樂創作」透過SUNO AI將難以記得的學科知識，編寫成自己喜歡的旋律，透過反覆聆聽達到記憶的效果。
教育局表示，114學年度起本市教師將可運用最新推出的《資訊素養與倫理》－「AI未來新世界」教材進行授課，國小以議題融入及跨領域方式學習，國中及高中則為5至9節課程培育相關資訊素養，此次AI教材亦公告於臺北科技教育網(網址: https://techpro.tp.edu.tw/static/information/main)，提供本市教師教學使用，亦提供民眾參考取用，同時為提供教師「AI課程範例」，刻正修訂各學層資訊科技課程教學綱要，從教材、師資、課程到基礎建設全面布局，期盼培育具備科技力、倫理觀與社會責任的未來公民。
