AI威脅論升溫！OpenAI神秘Q*模型懂邏輯推理、產生新想法？恐怕如「天網」般威脅全人類？

　　山姆·奧特曼（Sam Altman）於2023年11月29日在OpenAI官方網誌宣布，正式重任執行長，象徵著該公司的宮鬥風暴徹底完結。當初奧特曼之所以被董事會免職，傳聞中的關鍵原因是他秘密研發的AI項目「Q*」，近期取得重大突破，可能會對人類構成威脅。究竟「Q*」與ChatGPT等生成式AI有甚麼差別？它是否真的足以影響全人類存亡呢？

 

Q*計數能力遠勝ChatGPT

 

　　OpenAI宮鬥事件引人注目之處，除了執行長奧特曼的戲劇性回歸外，還有在鬥爭過程中被拋出來的神秘AI項目Q*（讀作「Q-star」）。目前OpenAI仍未有披露有關Q*的詳細資料，暫時只知道研究團隊在2023年某個時間點獲得重大突破，成功創建出可以解決基本數學問題的AI模型Q*。

 

　　有消息指，奧特曼被罷免前，OpenAI內部曾對Q*進行操演，結果顯示它能夠正確解答小學程度的數學問題。聽起來，如此基礎的數學能力似乎沒甚麼了不起，但對GPT-4等大型語言模型而言，這已屬極高難度動作。

 

Q*擁有人類的邏輯推理能力

 

　　大家要知道，即使是最先進的GPT-4模型，都只是精於語言文字處理，要是碰上加減乘除數學問題，就會經常計錯數。假如Q*真的具備正確解答數學問題的能力，就算僅是小學程度，已遠勝於市場上所有生成式AI模型。

 

　　人們要學習數學，是要訓練邏輯推理能力。一旦AI模型懂得數學計算，代表著它能夠對抽象概念進行邏輯推理；換言之，它可以像人類般能夠理解抽象概念，並通過邏輯推理，獲得新知識、發展新想法，甚至面對前所未見的難題時，都可以發想出新的解決方法，這跟當下生成式AI完全是不同層次的概念。

 

Q*模型是發展AGI關鍵一步

 

　　美國史丹福大學轄下以人為本AI研究所（Human-Centered AI Institute）所長安德魯·羅戈斯基（Andrew Rogoyski）表示，如果AI能解決新的、從未見過的問題，而不僅僅是重塑現有知識，那麼這將是一件大事。更有AI研究員認為，假如Q*能夠解決簡單的數學問題，代表OpenAI朝著「通用人工智能」（Artificial General Intelligence，AGI）目標邁出了一大步。

 

　　所謂「AGI」，意指具備與人類同等智慧的超級AI；OpenAI更將之定義為，在最具經濟價值的任務中，擁有超越人類能力的自主系統。2023年11月舉行的APEC企業領袖高峰會上，奧特曼提及OpenAI近日達成第四次技術突破，讓他們得以「揭開無知之幕，並抵達探索發現的前沿」。外界認為，他所指的正是Q*模型。

 

奧特曼在APEC企業領袖高峰會上表示：「在OpenAI歷史上發生過四次重大突破，最近一次就是在過去幾個星期，當我們揭開無知之幕，並抵達探索發現的前沿時，我就在房間裏，這是職業生涯中的最高榮譽。」（圖片來源：X.com@Kr00ney）

 

Q*模型可能變成天網雛形？

 

　　但有些AI專家擔憂，儘管Q*今天只是一名小學生，可是未來卻可能成為接管全世界的AI統治者。當Q*像人類般懂得應用推理，那麼人們對其控制或預測就會變得非常困難。再者，它能夠產生新想法來解決前所未見的問題，或許會做出超越人類理解範圍的決策和行動。

 

　　更有網民將Q*描繪為經典科幻電影《未來戰士》（Terminator）中的「天網」（Skynet）：它原本是美國政府所研發的國防電腦系統，後來因產生自我意識，判斷人類是威脅它的物種，所以發射核彈來滅絕全人類。

 

在《未來戰士》電影中，擁有自我意識的超級AI「天網」於2029年向人類發動核戰，並派出AI機械人軍團追殺倖存下來的人類。（圖片來源：IMDb網站）

 

Q*不算新技術，沒有威脅性

 

　　不過，有另一派AI專家質疑，Q*實際上不算是全新技術，更談不上威脅性，現階段就擔心「天網」的降臨，似乎言之尚早。Facebook母公司Meta首席AI科學家楊立昆（Yann LeCun）認為，Q*是OpenAI既有項目的延伸研究，絕非可以威脅人類的嶄新技術。

 

有AI研究員認為，OpenAI的Q*模型可能是「Q-learning」強化學習演算法與「A*」智能搜尋方法結合而成，只符合當前 AI研究趨勢，不算是嶄新技術。（圖片來源：Unsplash圖庫）

 

　　艾倫AI研究所（Allen Institute for AI）科學家內森·蘭伯特（Nathan Lambert）認為，Q*是用於研究基本數學問題、而不是毀滅人類的AI。喬治亞理工學院電腦科學教授馬克·里德爾（Mark Riedl）更直言，傳媒對Q*報道有點誇大不實。

　　

　　隨著奧特曼的回歸，其戰友格雷格·布羅克曼（Greg Brockman）亦回巢重任公司總裁，加上在董事會重組後，與他敵對者已全數下馬，其最大支持者微軟（Microsoft）亦會以無投票權的觀察員身份加入，故此OpenAI現已完全落入其掌控之中。在奧特曼的全權領導下，OpenAI究竟會引導AGI造福全人類，還是打開潘朵拉盒子，創造出足以威脅全人類的AGI呢？事態發展絕對值得我們長期觀察。

 

延伸閱讀：

OpenAI宮鬥風暴！CEO奧特曼遭罷免後閃電復職、董事會大換血！解構來龍去脈+影響

AI可能導致人類滅亡？白宮下令AI接受評估，歐盟擬立法監管AI，教AI做人或是最佳解決方法！

 

 

 《經濟通》所刊的署名及／或不署名文章，相關內容屬作者個人意見，並不代表《經濟通》立場，《經濟通》所扮演的角色是提供一個自由言論平台。

• 

【你點睇】港鐵失倫敦伊利沙伯線專營權，你認為「國際化」遇挫的港鐵應否將重心轉移回本地？► 立即投票