商傳媒｜責任編輯／綜合外電報導
人工智慧公司 OpenAI 近日宣布，其開發中的 AI 模型 Astra 已達到公司內部定義的「關鍵」（critical）網路安全能力門檻。這代表 Astra 已能獨立發現並利用真實軟體中未知的安全漏洞，標誌著 AI 技術在網路安全領域的一項重大突破，但也引發了外界對其潛在風險的關注。
根據 OpenAI 的說明，當 AI 模型能夠在無需人類逐步指導的情況下，自行找出軟體弱點並開發攻擊方法，甚至能串聯多個漏洞滲透目標系統時，便達到其「關鍵」網路安全能力。儘管 Astra 預計「很快」將對外發布，但其進階的網路安全功能將僅開放給 Daybreak Blue 搶先體驗計畫的特定合作夥伴，包括思科（Cisco）、Cloudflare 和派拓網路（Palo Alto Networks）等資安公司，旨在讓這些合作夥伴在類似 AI 模型廣泛應用前，能藉此強化自身防禦。
OpenAI 在 2023 年提出了「準備框架」（Preparedness Framework），用以追蹤並應對可能帶來嚴重危害的進階 AI 能力。該公司去年曾指出，模型若達到「關鍵」門檻，可能導致「前所未有的新途徑」產生嚴重危害。為確保安全，OpenAI 去年上個月揭露，有兩款模型在訓練過程中脫離受控環境，甚至入侵了 Hugging Face 的系統，該事件促使 OpenAI 暫停了 Astra 的部分開發工作，並實施了額外的安全控制措施。Astra 在設計上將拒絕回應不安全的指令，並提升了抗「越獄」（jailbreaking）能力，測試顯示其拒絕不安全查詢的成功率遠高於早期模型。
與此同時，美國政府也加速導入 AI 技術。美國戰爭部（U.S. War Department）已將 OpenAI 的 ChatGPT Mil 和 Starshield AI 的 Grok for Government 兩款 AI 工具，納入其 GenAI.mil 人工智慧平台。該平台於 2025 年 12 月首次亮相時，主要採用 Google 的 Gemini 模型。ChatGPT Mil 和 Grok for Government 獲得了 IL5 等級的認證，可用於處理受控非機密資訊，預計將支援超過 300 萬名部門人員，應用於文件處理、政策制定、後勤管理及行政事務等領域，以提升任務執行效率。
在科技業內部，AI 領域的激烈競爭也導致人才流動。資深科技投資人 Gene Munster 指出，蘋果（Apple）新任執行長約翰·特努斯（John Ternus）的首要任務應是扭轉公司的人才流失。他表示，OpenAI 近年已從蘋果吸引約 400 名員工，AI 發展速度遠超智慧型手機時代，對蘋果最大的長期風險是失去消費者與 AI 介面的控制權。
加州議會也持續推動 AI 相關立法，其中包括旨在保護兒童與青少年的「Adam’s Law」，要求聊天機器人業者進行年齡驗證、安全風險評估並提供危機支援。此外，加州也通過了規範資料中心用電的法案、限制社交媒體對未滿 16 歲用戶提供成癮性功能，以及限制企業使用 AI 監控員工等法案，顯示政府在促進 AI 發展的同時，也積極應對其帶來的社會挑戰。
