最新評論  |  
國金點評  |  
中國點評  |  
港股點評  |  
期貨/商品  |  
窩輪/牛熊證  |  
ETF  |  
外匯  |  
基金  |  
強積金  |  
地產  |  
圈中人語  |  
最愛專欄

加入最愛專欄

陳萬賢,資深投資評論員,超過10年股票投研經驗,近年也涉獵Web3市場分析。

31/10/2024 09:05

《人棄我取-陳萬賢》算力新需求勿忽視

  英偉達全球市值坐亞望冠之際,筆者觀察各大討論區仍充斥著估即日變化之流,真是百貨養百客。現時,雖然主流看法仍處於人工智能初期,但實際從供應鏈的觀察,只是看得清明年的需求,至於後年仍有待2025年下半年才可一探究竟。然而,近期筆者卻留意到一個算力需求或會提升的新細節。
  上周,微軟宣布在Dynamics 365(CRM和ERP相關業務)中集成10個自主AI Agent,支援OpenAI最新模型01,可說明企業自動執行客服、銷售、財務、倉儲等業務。
  期內,OPEN AI最強競爭對手之一Anthropic推出了升級版的Claude 3.5 Sonnet,該次的升級不僅程式設計能力更強,還帶來全新功能computer use(計算機使用),支援像人類一樣操作計算機。這不也是做AI Agent嗎?
  兩則新聞的共通點是什麼?無錯,就是AI Agent。雖然現在還處於早期,但是能看到基礎模型廠商官方發布Agent的趨勢。之前,OpenAI Level3也是Agent,但是暫時還沒有類似的功能發布,可見微軟融合到旗下產品已搶先一步,漸漸官宣OpenAI推出AI Agent只是時間問題。
  現在的市場著眼點當然是AI Agent又能替代多少傳統勞動力,以及對可控範圍內解決問題的效率。然而,忽視了AI Agent這種功能卻是需要更大算力的消耗。
  要知道,出現AI Agent之前,稍早前,OpenAI 的o1模型強在反向推理,Gemini 1.5、Sonnet 3.5等可以做很好的正向推理。
  什麼是反向推理呢,據筆者與業內人士交流所得,簡單而言,從一個問題開始,從o1模型衍生出8個解決方案,從其中選擇最好的2個並再生成4個方案,因此又變8個方案,這是反覆運算一輪的結果。接著從這8個方案中再生成2個最好的方案,並繼續各自生成4個方案,又是8個方案。
  假設,此時找到一個方案,使得o1模型評分PRM到90分以上,那認為其是一個正確解決方案並輸出給使用者,此過程中,反覆運算3次,每次8個答案,總共24個答案,相當於用傳統的LLM跑了24次推理,因此個人覺得它對總算力的消耗可能在10倍以上。
  AI Agent也是,給她一個問題,她可以遵循使用者的命令在計算機螢幕上移動游標,點擊相關位置,並通過虛擬鍵盤輸入信息,模擬人們與自己計算機的交互方式,最後得出答案,過程中需要衍生多少次運算才得出最佳解決方案,對算力的需求不言而喻吧。
  而正向推理方面,則是像我們現時一樣,給予更清晰的各項步驟路徑給予模型去做,簡化了模型尋找解決方案的路徑,對模型要求沒有太高,當然結果也不是最理想,只是最接近使用者的想法。
  現時看到不止OpenAI,連Anthropic也開始推出,然而若是to C端,暫時對這的需求不大,畢竟算力消化較高,從ROI角度,難以維皮,若收費高達50至60美元每小時,試問這樣的推理成本有什麼to C段的應用場景「食得起」。
  因此,微軟此番將AI Agent放在Dynamics 365上實現商業化可謂踏實的創新,一是企業利用AI Agent自動執行客服、銷售、財務、倉儲等業務,實現「一魚幾吃」,二是有望平替傳統勞動力,初期員工幫忙標註改善AI Agent應用,後期被淘汰也是時間問題。最重要是企業覺得有節省成本的潛力,而且便於管理,畢竟AI Agent沒有情緒。
  說到底,現在的美股仍是交易AI為主流策略,過於短視,美股或許不是一個好戰場。《資深投資評論員 陳萬賢》
 
*《經濟通》所刊的署名及/或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。

【etnet 30周年】多重慶祝活動一浪接一浪,好禮連環賞! ► 即睇詳情

專家陣容
顯示更多
專業版
HV2
精裝版
SV2
串流版
IQ 登入
強化版
TQ
強化版
MQ

【etnet 30周年】多重慶祝活動一浪接一浪,好禮連環賞!

【etnet30周年連環賞】睇住賞維柏健webber naturals ®健骨MSM(活絡配方) (價值HK$412)

etnet榮獲HKEX Awards 2023 「最佳證券數據供應商」大獎

貨幣攻略

大國博弈

傾力救市

說說心理話

Watche Trends 2024

北上食買玩

Art Month 2024

理財秘笈

秋天養生食療

消委會報告

山今養生智慧

輕鬆護老