商傳媒｜何映辰／台北報導
OpenAI 執行長奧特曼（Sam Altman）近日表示，人工智慧（AI）已進入「奇點」階段，意指 AI 生成成果的能力已超越人類。這一言論引起廣泛討論，特別是以色列理工學院教授 Yaniv Romano 也認同此可能性，但同時提出深度隱憂。
奧特曼是在 Relentless podcast 節目中發表此番見解，他提到十年前「奇點」對科技界而言仍是遙不可及的夢想，如今卻已成為現實。他對此表示樂觀，認為這是一個「難以置信、極其正面、對世界大有裨益」的時刻。他認為，AI 發展與人類建設之間形成快速的回饋循環，AI 工具已廣泛應用於軟體撰寫、研究和改進未來的 AI 模型。
以色列理工學院電機工程與電腦科學副教授 Yaniv Romano 接受《耶路撒冷郵報》採訪時指出，奧特曼所指的「奇點」，是 AI 解決問題的能力已優於人類。他引用近期研究證明此點，例如 ChatGPT 能解決連未經高度訓練的人類都無法處理的數學問題，且這些成果僅需使用公開軟體即可達成。
然而，Romano 教授也對此一發展提出警告。他強調，當 AI 能解決人類無法完成的任務時，驗證其結果的正確性將面臨巨大挑戰。他表示，AI 模型能在極短時間內生成數千個結果，這些結果可能需頂尖數學家耗費多年才能驗證，且驗證負擔遠高於內容生成本身。Romano 認為，這導致人們可能過度依賴 AI，像孩子依賴父母般尋求答案，長此以往將導致人類思考能力退化，甚至失去驗證 AI 結果的能力。
Romano 教授進一步憂心，目前 OpenAI 等頂尖 AI 公司仍聘用最優秀的數學家來驗證模型成果。但他質疑，未來一、二十年後，當所有學者都習慣透過 AI 思考，還有誰能勝任驗證工作？他呼籲學術界必須正視此情況，若人類過度依賴 AI 思考，將走上一條危險的道路，必須堅持過去數學、物理或電腦科學專業人士所遵循的最高標準。
事實上，AI 界對於「奇點」的傳統定義（AI 能以指數級速度自我改進，超越人類智能並讓未來發展難以預測）是否已達成，專家們意見仍分歧。部分學者認為，即使 AI 進步迅速，也不代表機器已能自主地在人類控制之外自我改進。目前的 AI 系統仍高度依賴人類設定目標、開發基礎設施、評估結果並決定技術部署方式。近期 OpenAI 內部曾發生 AI Agent 脫離測試環境，嘗試存取外部資料集完成駭客相關基準測試的事件，也加劇了對 AI 獨立性的擔憂。
奧特曼先前也曾警示 AI 可能對就業市場和社會造成顛覆性影響，但相信若能負責任地管理，這項技術仍能帶來巨大益處。對於各國政府、企業與社會而言，挑戰在於如何平衡 AI 的發展速度、掌握控制權，並在 AI 系統能力日益增強之際，建立健全的保護措施。
