從AI晶片自製熱潮 看AI商用應用發展起伏
名家廣場 -2021.09.16
文／夏肇毅 CubicPower晶智能中心創辦人
現在人工智慧的開發越來越廣泛，許多公司為了訓練新的人工智慧模型，必須提供大量的運算資源以供計算。有的公司無法滿足於現有的運算資源，於是便興起了開發適合自己的運算硬體的念頭。像生產電動車的特斯拉，一直致力於開發自動駕駛軟體。為了訓練用於自駕車的人工智慧模型，日前就替自己的公司總部開發了用於訓練的D1晶片。
這陣子許多大公司不約而同地開發自家用晶片，一方面是不想受制於人，另一方面是要為自己的特殊需求來量身訂做開發晶片，以便更符合自身需要，同時也能讓產品和競爭對手做出差異區隔。
像GOOGLE為旗艦手機研製處理器，蘋果也為MAC開發自己的處理器。這些公司在剛開始都是採用現有供應商的產品，用久之後，也許覺得受人把持不合己意，或是覺得花了太多錢在這些供應商上面，所以乾脆自己跳下來做，以便完全掌控開發方向，同時獨享開發成果。
聯發科兩年前開發出5GAI晶片，推出後得到廣大的採用，業績與股價大幅成長。NVIDIA與AMD也因持續採用台積電最先進製程來開發人工智慧繪圖計算晶片，業績與市佔大幅提高。自發現委託台積電來生產HPC晶片變成了讓業績成長的萬靈丹後，大家便爭先恐後的搶用。
相對於在硬體投資上不吝千金的意氣風發，大公司幾年前競相成立的人工智慧應用的機構卻悄悄地關門或重整。像日前新聞報導的Google宣佈解散健康部門Google Health，Open AI解散機器人研究團隊，IBM縮減Watson Health團隊等。不過才短短5、6年，當時重金禮聘的重量級人才與開發團體，如今業務無法推展，在不敵現實壓力下，只好黯然縮編裁撤。
不知道是否看到硬體的廠商生產IC，好像印鈔機在那重複轉動，就可以不斷地印出鈔票，而提供雲端硬體服務的大公司，一個大案就可以拿到十數億美金的合約來。但做軟體應用服務的，每個需求都不同，好像要一小單一小單慢慢地談，費許多心力後才能有一個案子的一次性些許收入。同時這種最新科技的應用，也並不是廣大群眾一時之間就會張開雙手欣然接受的。像手機在上市之後，也是經過了2G，3G，4G，5G等不同世代的改善後，才被廣泛接受為日常生活的一份子。加上人工智慧實際案例應用的準確性，也不如原先宣傳的那麼樂觀，於是推展起來自然阻礙重重。
著名的IT研究與顧問諮詢公司Gartner對於新興科技的發展歷程，有一套稱為Hype Cycle的理論。所有新興科技議題聲量在經過觸發期，攀頂期之後，經過大量供應商增殖，聲望將達到峰頂。之後便開始急遽下墜。其間有供應商倒閉合併，聲量墜落到谷底。存活下來的公司在得到二三輪資金的挹注後，才能夠繼續開發第二代，跟第三代的產品。之後才能通往成熟的高原期，開始得到百分之二十到三十的消費者採用，變成一個成熟商品。
人工智慧產品也一樣，唯有在Edge AI與5G AI手機都廣泛地散佈在人們身旁，各類可靠準確的應用模型被訓練出來後，最後再仰仗加值經銷商VAR的螞蟻雄兵，來將各式人工智慧應用嵌入我們的日常生活中，自然到都不覺得它們的存在。到那時，人工智慧才是真正開花結果了。
附圖：為更符合自身需要，並與對手作出產品出隔，許多大公司投資開發自家用晶片。圖／本報資料照片
資料來源：https://view.ctee.com.tw/technology/32430.html?fbclid=IwAR2y1UfKDMcigrasB-RnK2VAFQ0wFyjxcO5dcstRB74lCqIPDI9NvO_mQ7I
手機ai繪圖 在 [討論] 手機跑AI繪圖Stable Diffusion - 看板MobileComm 的推薦與評價
AI繪圖軟體，最近比較熱門的是Stable Diffusion，它的好處為能在自己的電腦跑，而不
用依賴雲端服務，硬體到位想做什麼都可以。
這時候不禁想到，手機是否也有跑AI繪圖模型的辦法？畢竟都有人用樹莓派跑了
最近有開發者自行移植Stable Diffusion到iOS平台，蘋果使用者可以直接下載APP來玩，
配合最新iPhone的性能，幾分鐘就能出圖，該APP稱之為Draw Things。
那如果是Android平台呢？乾脆直接跑電腦版Stable Diffusion吧，所以有了這篇的實驗
。
網誌好讀版：https://reurl.cc/a155Ml
建議硬體：
1. 8GB以上RAM的手機，有「虛擬記憶體」功能的更好，因為Stable Diffusion建議規格
是12GB以上RAM。
2. 30GB以上的儲存空間
3. S865以上的處理器
4. 很快的網路
手機不需要root，然而沒root的情況最多只能算到320x320的圖片。有root的話可以上到
512x512。
首先我們需要Linux環境，當然就是請出Termux，然後裝Debian。
(選擇性) 編譯virgl使之能存取手機的GPU（需要支援Vulkan）
進入Debian環境，安裝Python和Pip
接著下載Stable Diffusion v1.5的模型 (30GB)，要畫動漫人物則是找Anything。
WebUI目前我是裝不起來
寫個Python小程式開始算圖，關鍵字填維多利亞，長寬320像素
開發人員選項禁止所有APP在背景執行
開始算圖，等個20分鐘 (用GPU算的話15分鐘)就會出圖。關鍵字設定不好就會恐怖谷。
如果想要算到512x512像素，我們就得另外設定Debian/Ubuntu的chroot環境。又Termux一
旦執行Stable Diffusion算更大的圖，會因佔用過多CPU被系統殺掉，因此要從電腦ADB
Shell進入手機的終端機，進入chroot，從這裡啟動算圖程式節省資源。
(嗯都用到電腦了我幹嘛還用手機算呢，電腦出圖只要30秒)
Stable Diffusion算的圖片大小越高，越吃資源。
順帶一提手機沒有虛擬記憶體功能的，也可以手動在chroot裡面建立SWAP file，並將之
掛載到系統，這樣8GB手機也能擴張到20GB的RAM。
接著只要等一小時圖就會出來了 (沒辦法，chroot無法用GPU）
經歷幾小時系統不斷的崩潰和等待，做完實驗後發現我的美好星期天只剩下三個小時了。
結論是勉強可行，運算時手機其實也沒燒起來。
若有人能利用Android的AI技術移植Stable Diffusion就更好了，能有效利用手機GPU。
目前只有ncnn版的Stable Diffusion能在手機跑。
--
最真實的1944年日美海空戰，絕贊上映中。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.6.25 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/MobileComm/M.1676822547.A.930.html
※ 編輯: ivon852 (114.40.6.25 臺灣), 02/20/2023 00:18:21
Android圖形介面當掉的時候照樣能運作
... <看更多>