Duncan 新價值投資 ｜ AI ，對於算力的崇拜

Perspective view, people worship in data center, dramatic lighting, renaissance painting style #MicrosoftDesigner

上回討論，我看科技發展趨勢和科技行業趨勢為首要。充分去了解可以更加具有前瞻性去把握投資機會。（參考：我工作中的科技分析，對於投資的意義和邏輯）

投資市場中，人人都在談AI、晶片、算力。

Big Data 大數據

大約10年前，我在工作中不同的vendors presentation都會經常聽到提及Big Data和AI的大趨勢，Big Data特別強調text文本和image相片。此兩項為現在AI Model的multi-modal的兩大元素，不過當時自己是半信半疑，未有深入了解AI究竟和我們的距離是遠或近。

過去10多年，全球數據量增長十分驚人，超大量數據正是促成AI訓練變得可能。下圖是節錄自《AI 投資時代》（主題和内容 | 發售資料）。

有超大量數據，AI訓練需要大量算力去支持，算力需求的情況是怎樣？

AI Model 引証算力需求

對於大眾，ChatGPT在2023年初出現，真正震撼人心，感受到AI時代的來臨。

我第一次見到GPT這個字眼是2021/4月的Nvidia GTC，blog中有寫文章分享。當時是GPT-3，見到處理NLP (Natural Language Processing)的强大能力。文章包括下圖是LLM (Large Language Model) AI Model的Parameters參數的趨勢，大約是兩年以10倍速度去發展。（參考：NVIDIA GTC (2021/4月) 總結，未來的產品佈局）

這個數字就好像人腦的複雜程度，複雜程度大概化身算力去理解。今日的AI處理使用1個小時，使用同等電腦去處理，兩年後使用10個小時；今日使用1部電腦做AI處理，想用一個時間完成，兩年之後的AI處理使用10部電腦。（這只是簡化了的大概解䆁，實際上例如軟件上的優化都可以加大performance效能。）

這種駭人的增長速度以10倍計，來勢洶洶，多少解釋了Microsoft和Meta等科技巨企為設置data center基建，不斷又不斷買入大量Nvidia GPU。

事隔3年，現在是2024年，Nvidia的presentation中見到下圖，LLM (Large Language Model)參與者是更多，AI Model Parameters參數仍然保持以上的發展軌跡，大概兩年以10倍速度增長。

思考

AI Model的Parameter參數增長代表了幾件事：

AI對於算力需求的擴張，就是AI晶片需求的擴張。

除了AI晶片 (Nvidia、AMD、Intel)，是半導體行業的整體需求提升 (SOXX、SMH）。AI Data Center基建包括 Super Computer / Server、Networking，甚至又會推動AI PC / AI Phone等，內裡有很好不同的晶片及零部件，自然反映到晶片生產(TSM) 和晶片生產設備 (ASML)。

AI算力需求有一大部份來自Cloud提供，原因是過去企業自建Data Center很難去追上這種算力擴張速度，唯有Cloud做到規模經濟 (Economy of Scale) 的效果。此帶動Cloud Service Provider (Amazon AWS, Microsoft Azure, Google GCP) 的業務。

AI Model的Parameter參數代表的複雜程度，反映AI的智慧程度，所掌握的智慧越多，解決問題的能力越高，過去不可能解決的問題就變得可能。

這種增長不獨是1年，而是相對較長期的可持續增長。

 Read More