加入最愛專欄  收藏文章 

2023-12-01

AI威脅論升溫!OpenAI神秘Q*模型懂邏輯推理、產生新想法?恐怕如「天網」般威脅全人類?

  山姆·奧特曼(Sam Altman)於2023年11月29日在OpenAI官方網誌宣布,正式重任執行長,象徵著該公司的宮鬥風暴徹底完結。當初奧特曼之所以被董事會免職,傳聞中的關鍵原因是他秘密研發的AI項目「Q*」,近期取得重大突破,可能會對人類構成威脅。究竟「Q*」與ChatGPT等生成式AI有甚麼差別?它是否真的足以影響全人類存亡呢?

 

Q*計數能力遠勝ChatGPT

 

  OpenAI宮鬥事件引人注目之處,除了執行長奧特曼的戲劇性回歸外,還有在鬥爭過程中被拋出來的神秘AI項目Q*(讀作「Q-star」)。目前OpenAI仍未有披露有關Q*的詳細資料,暫時只知道研究團隊在2023年某個時間點獲得重大突破,成功創建出可以解決基本數學問題的AI模型Q*。

 

  有消息指,奧特曼被罷免前,OpenAI內部曾對Q*進行操演,結果顯示它能夠正確解答小學程度的數學問題。聽起來,如此基礎的數學能力似乎沒甚麼了不起,但對GPT-4等大型語言模型而言,這已屬極高難度動作。

 

Q*擁有人類的邏輯推理能力

 

  大家要知道,即使是最先進的GPT-4模型,都只是精於語言文字處理,要是碰上加減乘除數學問題,就會經常計錯數。假如Q*真的具備正確解答數學問題的能力,就算僅是小學程度,已遠勝於市場上所有生成式AI模型。

 

  人們要學習數學,是要訓練邏輯推理能力。一旦AI模型懂得數學計算,代表著它能夠對抽象概念進行邏輯推理;換言之,它可以像人類般能夠理解抽象概念,並通過邏輯推理,獲得新知識、發展新想法,甚至面對前所未見的難題時,都可以發想出新的解決方法,這跟當下生成式AI完全是不同層次的概念。

 

Q*模型是發展AGI關鍵一步

 

  美國史丹福大學轄下以人為本AI研究所(Human-Centered AI Institute)所長安德魯·羅戈斯基(Andrew Rogoyski)表示,如果AI能解決新的、從未見過的問題,而不僅僅是重塑現有知識,那麼這將是一件大事。更有AI研究員認為,假如Q*能夠解決簡單的數學問題,代表OpenAI朝著「通用人工智能」(Artificial General Intelligence,AGI)目標邁出了一大步。

 

  所謂「AGI」,意指具備與人類同等智慧的超級AI;OpenAI更將之定義為,在最具經濟價值的任務中,擁有超越人類能力的自主系統。2023年11月舉行的APEC企業領袖高峰會上,奧特曼提及OpenAI近日達成第四次技術突破,讓他們得以「揭開無知之幕,並抵達探索發現的前沿」。外界認為,他所指的正是Q*模型。

 

奧特曼在APEC企業領袖高峰會上表示:「在OpenAI歷史上發生過四次重大突破,最近一次就是在過去幾個星期,當我們揭開無知之幕,並抵達探索發現的前沿時,我就在房間裏,這是職業生涯中的最高榮譽。」(圖片來源:X.com@Kr00ney)

 

Q*模型可能變成天網雛形?

 

  但有些AI專家擔憂,儘管Q*今天只是一名小學生,可是未來卻可能成為接管全世界的AI統治者。當Q*像人類般懂得應用推理,那麼人們對其控制或預測就會變得非常困難。再者,它能夠產生新想法來解決前所未見的問題,或許會做出超越人類理解範圍的決策和行動。

 

  更有網民將Q*描繪為經典科幻電影《未來戰士》(Terminator)中的「天網」(Skynet):它原本是美國政府所研發的國防電腦系統,後來因產生自我意識,判斷人類是威脅它的物種,所以發射核彈來滅絕全人類。

 

在《未來戰士》電影中,擁有自我意識的超級AI「天網」於2029年向人類發動核戰,並派出AI機械人軍團追殺倖存下來的人類。(圖片來源:IMDb網站)

 

Q*不算新技術,沒有威脅性

 

  不過,有另一派AI專家質疑,Q*實際上不算是全新技術,更談不上威脅性,現階段就擔心「天網」的降臨,似乎言之尚早。Facebook母公司Meta首席AI科學家楊立昆(Yann LeCun)認為,Q*是OpenAI既有項目的延伸研究,絕非可以威脅人類的嶄新技術。

 

有AI研究員認為,OpenAI的Q*模型可能是「Q-learning」強化學習演算法與「A*」智能搜尋方法結合而成,只符合當前 AI研究趨勢,不算是嶄新技術。(圖片來源:Unsplash圖庫)

 

  艾倫AI研究所(Allen Institute for AI)科學家內森·蘭伯特(Nathan Lambert)認為,Q*是用於研究基本數學問題、而不是毀滅人類的AI。喬治亞理工學院電腦科學教授馬克·里德爾(Mark Riedl)更直言,傳媒對Q*報道有點誇大不實。

  

  隨著奧特曼的回歸,其戰友格雷格·布羅克曼(Greg Brockman)亦回巢重任公司總裁,加上在董事會重組後,與他敵對者已全數下馬,其最大支持者微軟(Microsoft)亦會以無投票權的觀察員身份加入,故此OpenAI現已完全落入其掌控之中。在奧特曼的全權領導下,OpenAI究竟會引導AGI造福全人類,還是打開潘朵拉盒子,創造出足以威脅全人類的AGI呢?事態發展絕對值得我們長期觀察。

 

延伸閱讀:

OpenAI宮鬥風暴!CEO奧特曼遭罷免後閃電復職、董事會大換血!解構來龍去脈+影響

AI可能導致人類滅亡?白宮下令AI接受評估,歐盟擬立法監管AI,教AI做人或是最佳解決方法!

 

 

 《經濟通》所刊的署名及/或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。

【香港好去處】etnet全新頻道盛大推出!全港最齊盛事活動資訊盡在掌握!► 即睇

更多智城物語文章
你可能感興趣
#Smart Living #Sam Altman #OpenAI #奧特曼 #AI #Q* #人類 #威脅 #ChatGPT #生成式AI
編輯推介
即時報價
全文搜索
Search
最近搜看
貨幣攻略
大國博弈
More
Share