2021 上半年載板三雄的獲利,都因為 ABF 市場需求大好而大幅提升,而且預期 ABF 供需缺口在2022 年會達到最大,報價還是有上修的空間,表示未來還能繼續好下去,到 2023 年產能緊張的狀況才漸舒緩,甚至也有法人認為要到 2025 年供需才會趨於平衡。
高規格的 ABF 載板興起主要原因如下:
● CPU、ASIC 等高速運算(HPC)處理晶片應用增加、
● 5G 基地台、資料中心、網通設備及其他新型終端需求增加、
● 先進封裝使用 ABF 載板尺寸更大,難度更高會消耗更多產能。
但為什麼載板三雄中,隸屬於台塑集團的南電近一年股價漲幅可以高達 208%?
---超快速掃描南電業務---
ABF 占南電營收近 5 成,是載板三雄中最高者,可以說是 ABF 概念股中純度最高的,所以 ABF 市場越緊缺,南電營運獲利受惠幅度也會比較大。
主要客戶是超微 AMD、NVIDIA;產品應用面網路通訊占比最高,其次是消費性電子。市場需求大爆發下,最稀缺的就是產能了,那影響營運最重要的 ABF 產能什麼時候開出?
---南電產能連續三年固定開出產能---
從附圖可以看到 2019 年南電的 ABF 產能利用率開始拉高,同年也開始擴建昆山廠 ABF 載板生產線,而且主攻層數高、面積大、技術難度高的 5G 網通設備、交換器、伺服器等使用的載板,這代表產品平均售價 ASP 和毛利率將會隨產能開出後提升。
2018 下半年開始有不少大廠搶載板產能,2019 年高速網路、高速運算加速發展,南電也在網通、交換器、伺服器等應用帶動下,產能利用率與產品單價開始攀升,營運漸入佳境,隨著產能滿載到達營運巔峰。
到達顛峰後要怎麼持續推升營運獲利,就是要靠產能,南電在這三年都有不同的 ABF 產能規劃,為的就是每年穩定開出 10-15%的新產能。
三年 ABF 產能擴產計畫:
● 昆山廠產能在 2021 年第 2 季全數開出。
● 向母公司承租錦興廠區,2021 年底有新產能,2022 年首季將全數開出。
● 樹林廠擴建目標 2022 年底前完成,2023 年第 1 季投產。
---從虧錢到賺錢 再到賺很大---
2019 年不但開始擴建產線,南電還表演了絕地大反攻,從數年的虧損大幅翻轉向上,而且在全球疫情最燒的情況下,營運呈現高速成長,月營收頻創歷史新高。
不僅營收,本業獲利也同步跟上,2020 年第 2 季營利率更從 4.95%跳升成雙位數 10.88%,今年第2 季因為昆山廠產能開出,ABF 營收比重開始提升,而且良率優於預期,加上漲價效益,今年第 2季的毛利率提高 6 個百分點營利率再跳升為 23%,EPS 也持續創高,今年第 2 季已達 3.61 元。
---成本結構是同業最佳---
投資新廠會有成本和折舊的問題,我們先來了解產品的製造成本,是來自於:原料、工錢與雜七雜八的費用。
而載板產業的原料和工錢對於同業來說是差不多的,要漲就會一起漲,差別並不大,所以重點就是在於費用。
而費用裡面,占比最大的就是折舊,我們從下方比較表中可以看到,三雄的折舊毛利占比逐季下降,但南電降最快、表現最佳,2021 上半年只占毛利三成。
那已知的是 ABF 產業前景很好,產能也已滿載,所以成本越低,能獲得的毛利相對來說就更高,也使他第 2 季獲利可以上升的得這麼快。
即使未來 ABF 載板在 2023-2025 年的需求不如現在預期的會持續好下去,南電也因為低成本,獲利會比較有撐。這也是南電值得長線投資的主要原因。
#南電
網路交換器是什麼 在 Re: [新聞] AI晶片競爭開跑，谷歌公布第四代TPU，宣- 看板Stock 的推薦與評價
※ 引述《ynlin1996 (.)》之銘言：
: 原文標題：
: AI晶片競爭開跑，谷歌公布第四代TPU，宣稱比輝達A100晶片更快更節能
: 原文連結：
: https://bit.ly/3meYAG8
: 發布時間：
: 2023.4.6
: 記者署名：
: 茋郁
: 原文內容：
: 谷歌於2023年4月5日公佈了其用於訓練AI模型的超級電腦的新細節，稱該系統比輝達的同類型系統A100更快、更節能。雖然現今大多數涉足AI領域的公司的處理能力都來自輝達的晶片，但谷歌設計自己客製化晶片Tensor Processing Unit（TPU）期望能夠推動其在AI研究。
: 谷歌是在COVID-19大流行高峰期間宣布了其Tensor晶片，當時從電子到汽車的企業面臨晶片短缺的困境。由於谷歌看到蘋果在客製化晶片的投入，幫助了iPhone以及其他產品的開發。因此最初該晶片是為其Pixel智慧型手機提供動力，可是歷經幾年之後，谷歌將TPU延伸至更多領域，可見得其開發方面取得了長足的進步。
: 如今谷歌90%以上的AI訓練工作都使用這些晶片，即通過模型提供數據的過程，使它們在諸如類似人類的文字查詢或生成影像等任務中發揮作用。
: 谷歌TPU現在已經是第四代了。之所以世代晶片發展那麼迅速的關鍵在於，谷歌使用AI來設計其TPU晶片。谷歌聲稱，與人類花費數月時間設計晶片相比，使用AI設計晶片僅需要6小時即可完成設計過程。
: 一旦採用AI設計晶片，產品迭代都在迅速發生，這就是TPU進入第四代的原因。未來隨著生成式AI的快速發展，將造成大型語言模型的規模呈現爆炸式成長，這意味著它們太大而無法儲存在單顆晶片上。所以谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起成為一台超級電腦，以幫助連接各個機器。此外，微軟也是將晶片拼接在一起以滿足OpenAI的研究需求。
: 谷歌指出，PaLM模型其迄今為止最大的公開披露的語言模型通過在50天內將其拆分到4,000顆晶片超級電腦中的兩個來進行訓練。更重要的是，其超級電腦可以輕鬆地動態重新配置晶片之間的連接，有助於避免出現問題並進行調整以提高性能。
: 谷歌除了自己使用TPU之外，一家新創公司Midjourney使用該系統訓練其模型，該模型在輸入幾句文字後即可生成新影像。
: 可是谷歌並沒有將其第四代晶片與輝達目前的旗艦H100晶片進行比較。谷歌暗示它可能正在開發一種新的TPU，它將與輝達H100展開競爭。
: 總之，隨著生成式AI的崛起，AI晶片的開發腳步將成為下一個廠商積極介入的領域，以搶奪未來商機。
: 心得/評論：
: Google公布第四代TPU，並宣稱比NVIDIA A100更快更節能，其客戶Midjourney利用TPU訓練其模型再輸入文字後生成圖片。
周末下班閒聊,
發現tech版沒有這篇文章,
那就在這裡討論好了,
其實我說的東西都是網路 google+wiki 就有的東西,
先簡單說明一下現代化的ML DeepLearning的基本概念,
其實就是用暴力法把整個model 放進去 GPU/TPU 裏頭training/inference,
這會有兩個最大的限制,
硬體速度跟GPU/TPU記憶體容量,
硬體太慢跑不動或跑太久,
GPU/TPU記憶體容量太小的話是連跑都不能跑,
我幾年前在板上分享的TQQQ DeepLearning 預測股價的模型,
需要8GB 的 GPU VRAM
維基小百科之後就回到主題: ChatGPT,
目前所有的聊天機器人模型通通都是LLM,
https://en.wikipedia.org/wiki/Wikipedia:Large_language_models
GPT-3 需要VRAM 175GB,
股歌微軟OpenAI 這幾家的模型一定遠遠超過這個大小,
大上數百倍都有可能,
我是做硬體晶片的,
不要問我model 這塊的問題,
所以現在這些聊天機器人模型最大的問題是整個系統無法塞下model training,
所以這篇文章的重點在這句話:
"谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起",
只能這麼做才有辦法塞下這麼大的model training,
Nvidia 也有類似的技術叫做 NVLink,
可以把電腦上數個Nvidia 顯卡串聯運算,
但是如果模型大到一台電腦顯卡全部插滿都塞不下運算的話,
我就不知道Nvidia 如何解決,
但是我相信Nvidia 一定有解決的方法
所以現在問題已經提升到整個系統端,
而不是我的晶片跑多快這麼簡單的問題,
軟體跟模型要如何切割如何分配塞入多台超級電腦,
硬體方面如何塞入最大的模型做運算
說個題外話,
我幾年前做了一個project, AI 晶片與系統研發的project,
最近拿到公司的大獎,
不是新聞這個TPU,
我跟開發model 的對口同事討論過,
是否能夠拿我們開發的這個系統來跑Chat model,
得到答案是否定的,
至少現階段還無法做到,
原因很簡單, VRAM 不夠大, 塞不下model,
但是他們model 部門也有在想辦法要細切 model 看可不可以塞進去這個系統,
所以速度已經不是最重要的考量了,
至於速度,
兩年前應該是全世界最快的晶片+系統,
可惜 VRAM 不夠大,
原本運用方向就不是要做chat
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.5.140.41 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1680851343.A.8CF.html
也就是原文裏頭說的客製化開發的光訊號交換器,
不然你無法做到多台電腦同步運算同一model,
另外一個做法就是用純軟體的方式細切model 分別塞到個別機器,
也就是我的對口同事正在嘗試要做的solution
※ 編輯: waitrop (24.5.140.41 美國), 04/07/2023 15:20:49
我只能說在電腦歷史上單一超級電腦或是分散運算小電腦,
這兩個方向已經吵了五六十年以上,
目前Chat model 的確是只有單一超級電腦才能運算,
但是我相信以後一定有解決方法可以用分散運算小電腦,
當年我在做這個AI project的時候,
也是公司兩派立場的爭論: 單一超級或是分散小電腦,
我的project 的研發方向是用分散運算方式去解決AI問題,
可是現在卡關在chat model,
但是我相信未來一定是分散運算的方式,
因為觀看人類電腦歷史,
沒有例外都是分散運算小電腦最後得到勝利
※ 編輯: waitrop (24.5.140.41 美國), 04/07/2023 15:45:24
只有這兩家可以做出chat 的系統,
只是Nvidia 真的股價有點高
... <看更多>