AI晶片市場究竟是什麼模樣？
作者 : Michael Azoff，Kiasco Research首席分析師
類別 : 專家觀點 2020-10-05
目前的AI晶片市場幾乎全都是關於深度學習(Deep Learning，DL)，深度學習是讓AI應用程式在現實世界實際可用的最成功機器學習典範；而其中又以加速(accelerating)深度學習最受關注，因為加速是訓練與推論過程所需。
當前的AI晶片市場參與者暴增：在最近的一份研究報告中，我們統計出全球有80家左右新創公司吸引了投資人約105億美元規模的資金，與大概34家老牌業者同台競技。顯然這種情況不會長久，但我們需要解析這個市場，以充分理解它為何會如此發展、又會如何變化，以及這一切意味著什麼。
將時間倒回2010年左右，當時因為Nvidia推出了在繪圖處理單元之上的高階通用運算方案(GPGPU)──現在我們都簡稱為GPU──導致了深度學習的崛起，將大型神經網路的訓練時間從幾個月或幾週，減少到只要幾天、幾個小時，甚至更短時間。Nvidia自此成功轉型為AI運算公司，發展出規模達數十億美元的新業務。
適用於工業體系的光耦合器安全型解決方案
這激勵了其他晶片公司和晶片架構師開始思考：他們能如何從零開始構建一個專門用於執行AI工作負載的架構，而且表現能比為多樣化工作負載設計的GPU更好？今日的AI工作負載僅代表著執行深度學習，這是目前的市場需求所在。
但市場需求是多變的。儘管大多數AI訓練都在資料中心(包括超大規模雲端)和工作站上進行，AI推論在任何地方都能進行：包括雲端、工作站還有邊緣──尤其是在邊緣裝置。
AI晶片市場如何細分？
無論一家新創公司決定加入哪個細分市場，競爭都會非常激烈。筆者發現將這個市場映射為一個三角形非常實用，如圖1，每一個角都有自己的一套標準來代表獨特的市場需求。
三角形的頂角是資料中心、雲端和高性能運算(HPC)環境對AI晶片的需求。Cerebras就是巧妙掌握了此一市場的新創公司，打造了號稱世界上最大的晶片──Wafer Scale Engine (WSE)。這個細分市場需要最高的運算能力，功耗和成本則是其次。在這裡新創公司面臨的挑戰是要與超大規模企業或老牌業者競爭──例如Nvidia持續穩步改善其架構，最新版本(Ampere)已於2020年5月發佈。
三角形的底角主要與推論相關，可以打造出維持準確但降低精度的晶片，其約束條件並不相同，包括晶片尺寸、低延遲、低功耗和低單位成本。小型邊緣裝置市場是新創公司最活躍的領域，像Nvidia這樣的大牌業者就不太會參與競爭，該公司也曾表示不打算涉足大眾商品推論市場。但是這個領域的玩家不僅要與對手競爭，還得與潛在客戶鬥智鬥勇──因為客戶可能會決定自創或收購一家新公司。
AI晶片市場的下一步發展
AI晶片領域有太多的競爭業者，看看圖1中三角形的每個角就知道，只有最佳的全方位設計才會勝出。除了我們已提到的各種因素，還需要添加成熟的軟體開發堆疊、針對市場的願景，以及將深度學習應用程式嵌入產品中的更大潛力，才能使市場合理化。
而這個市場中已經有人「陣亡」了：最近的一個案例是Wave Computing已於2020年4月宣佈破產。
競爭促使市場出現更快、更高性能的AI晶片，AI研究人員將從中獲益、實現他們的創新設計。筆者也預期將出現新演算法取代深度學習當前的霸主地位——AI研究的長期願景是打造類人腦的人造大腦，顯然深度學習會走入死胡同。新演算法的誕生勢不可擋(有些已經出現，但不在本文討論的範圍)，這些新一代演算法可能會需要不同類型的加速器。
深度學習在實際案例中的應用廣度，使這些晶片擁有數十億美元的市場，隨著5G的推出，其規模還將持續成長。這個市場需要AI硬體加速器，AI晶片市場將趨於合理化，然後整個遊戲規則將隨著新一代AI演算法的崛起而改變…不過，沒有人能斷言改變何時發生。
附圖：圖1：AI硬體加速器的細分應用市場。
資料來源：https://www.eettaiwan.com/20201005nt31-optical-compute-promises-game-changing-ai-performance/?fbclid=IwAR0iy4HEXAVJ_zVXdjd360xZg_RErdq05zNYPpM92mY4d5tTB_4AEZih5z0
