買比特幣 買比特幣
Ctrl+D 買比特幣
ads
首頁 > BNB > Info

加密貨幣:2023年 AI芯片公司正被奪命三連問_CHA

Author:

Time:1900/1/1 0:00:00

2023年,投資機構與股民們,正向AI芯片領域的上市公司,發起奪命三連問:

你做存算一體芯片了嗎?

(投資者向瀾起科技提問 圖源:同花順財經)

存算一體芯片進度如何?

(投資者向東芯股份提問 圖源:同花順財經)

存算一體芯片前景如何?

(投資者向恒爍股份提問 圖源:同花順財經)

以上的一系列發問,意味著存算一體不再“停留”于學界與產界,儼然火到了二級市場:股民、券商機構正加班加點狂補存算一體的課,于是傳統芯片大廠從2023年初至今,一直被“拷問”存算一體的布局情況。

一個自然而然的疑問是,存算一體為何突然變得如此火爆?

7.14發布新存儲產品OceanStor A310的華為,給出了自己的答案。華為數據存儲產品線總裁周躍峰表示,在通用大模型與行業大模型的訓練推理中面臨著諸多數據難題:海量數據跨域歸集慢、預處理與訓練中數據交互效率低、數據安全流動難。

Raoul Pal:2023年將看到我們的Web3和元宇宙計劃的大規模構建:金色財經報道,前高盛高管Raoul Pal在社交媒體上稱,在Web3世界中,Real Vision正在進行大量工作。2023年將看到我們的Web3和元宇宙計劃的大規模構建。Genesis NFT是這一切的核心。我們的機器人朋友只解釋了我們正在做的一些事情......[2022/12/11 21:36:34]

AI大模型對存儲帶來了新的挑戰,比如穩定性相較于傳統AI更差,同時有大量的數據預處理和準備工作,需要用近存計算(存算一體的一種)來系統性處理這個問題。

那么,這里“大量的數據”究竟有多少?據偲睿洞察測算,現階段 ChatGPT 日活一億,若每日有5%的人每秒同時提問,將會吞噬三峽大壩近一年的發電量。

換言之,大模型正瘋狂索取算力,而以存算一體為代表的新興解決方案能夠解決大模型帶來的諸多挑戰。而事實上,大模型除了對算力提出嚴苛要求外,也給了AI芯片廠商“不少糖吃”。

本文試圖探究,大模型背景下,給了AI芯片廠商怎樣的好處?被ChatGPT“帶火”的存算一體廠商,未來格局如何?

PART-01 “福禍相依”的AI芯片廠商

大模型的風還在呼嘯,有關大模型的討論仍在如火如荼地進行。

8月初,在中國計算機學會(CCF)人工智能會議分論壇——“見疆見昆侖·AI大模型算力前沿”上,專家學者們一致表示,大模型時代,智能算力成為“稀缺資產”,如何善用算力資源,發揮其最大效益,已經成為每個參與者必須面對的挑戰。

報告:到2026年區塊鏈市場規模將達到674億美元:金色財經報道,根據一份新的市場研究報告,按平臺和服務)、提供商、類型劃分的區塊鏈市場,?組織規模、應用領域和地區,預計區塊鏈市場規模將從2021年的49億美元增長到2026年的 674億美元,復合年增長率預測為68.4%。促成區塊鏈市場高增長率的主要驅動因素包括風險投資資金和對區塊鏈技術的投資增加,區塊鏈解決方案在銀行和網絡安全中的廣泛使用,區塊鏈解決方案在支付、智能合約和數字身份方面的廣泛采用,和不斷增加的政府舉措。[2022/7/5 1:52:20]

而光是GPT-3對算力索取量,保守情況下,需三峽大壩徹夜“打工”才能滿足:

假設有1億人同時在線,每日有5%的人每秒同時提問,每個prompt占30個token,便需要1530萬顆H100芯片來提供其推理算力;而每顆H100的功耗在750W左右,若每天運行10個小時,這些H100芯片所在的數據中心一年的耗電量將達到840億kW*h,而三峽大壩一年的發電量是882億kW*h。

讓AI芯片廠商更為焦慮的是,這還只是ChatGPT一個大模型在推理階段的耗電量,百家大模型全階段、全部運作的耗電量,難以估量。

于是,一系列新興的解決方案紛紛被廠商挖掘出來:存算一體、chiplet、HBM等等。在這之中,由于存算一體推翻了傳統馮諾依曼架構下的存儲墻,實實在在做到了降本增效,成為今年的“紫微星”。

3位加密科學家獲的理論計算機最高榮譽“2022年哥德爾獎”:金色財經報道,ACM算法與計算理論興趣組(SIGACT)宣布,2022年哥德爾獎授予Craig Gentry,Zvika Brakerski以及Vinod Vaikuntanathan,表彰其對密碼學做出的革命性貢獻。

據悉,Craig Gentry是一位美國計算機科學家,目前在由 Silvio Micali 創立的區塊鏈創業公司Algorand Foundation擔任研究員。

Zvika Brakerski是魏茨曼科學研究所(Weizmann Institute of Science)計算機科學與應用數學系副教授。他的研究興趣在于計算機科學基礎,目前主要研究密碼學和量子計算。

Vinod Vaikuntanathan致力于研究基于格的密碼學(格子密碼),使用整數格構建高級密碼原語。同時,還包括研究如何讓密碼抵抗泄露,開發抵抗對抗性信息泄漏的算法等等。[2022/5/22 3:34:18]

(圖源:偲睿洞察《AI大算力芯片行業報告-百舸爭流,創新者先》)

除了新興方案涌現讓AI芯片廠商喘了一口氣之外,大模型也為芯片廠商尤其是初創芯片廠商,帶來一個利好消息:軟件生態重要性正在下降。

早先技術不夠成熟之時,研究者們只能從解決某個特定問題起步,參數量低于百萬的小模型由此誕生。例如谷歌旗下的AI公司DeepMind,讓AlphaGO對上百萬種人類專業選手的下棋步驟進行專項“學習”。

巴西央行行長:2022年下半年將有一個數字貨幣試點項目:12月1日消息,巴西央行行長內托表示,2022年下半年將有一個數字貨幣試點項目。 (金十)[2021/12/1 12:42:34]

而小模型多了之后,硬件例如芯片的適配問題迫在眉睫。故,當英偉達推出統一生態CUDA之后,GPU+CUDA迅速博得計算機科學界認可,成為人工智能開發的標準配置。

現如今紛紛涌現的大模型具備多模態能力,能夠處理文本、圖片、編程等問題,也能夠覆蓋辦公、教育、醫療等多個垂直領域。這也就意味著,適應主流生態并非唯一的選擇:在大模型對芯片需求量暴漲之時,芯片廠商或許可以只適配1-2個大模型,便能完成以往多個小模型的訂單。

也就是說,ChatGPT的出現,為初創芯片廠商們提供了彎道超車的機會。這就意味著,AI芯片市場格局將發生巨變:不再是個別廠商的獨角戲,而是多個創新者的群戲。

當算力成為稀缺貨,同時適應主流生態不再成為必選項時,存算一體難掩光芒。此時,要不要投入,要投入多少,成為擺在AI芯片廠商面前的第二道難題。

對此,“過來人”芯片巨頭NVIDIA摸爬滾打多年給出的答案是,勇于創新,重金投入:

每一個新興技術的研發廠商,在前期無疑要面臨技術探索碰壁,下游廠商不認同等各個層面的問題。而在早期,誰先預判到未來的發展趨勢,并勇于邁出探索的腳步,鋪下合理的資源去嘗試,就會搶到先機。

當數據中心浪潮還未鋪天蓋地襲來、人工智能訓練還是小眾領域之時,英偉達已經投入重金,研發通用計算GPU和統一編程軟件CUDA,為英偉達謀一個好差事——計算平臺。

2021年印度二三線城市用戶注冊量增長2,375%:據加密貨幣交易所WazirX的數據,在今年疫情期間,來自二三線城市的年輕人和投資者紛紛涌向加密貨幣平臺。WazirX首席執行官Nischal Shetty表示,2021 年,二線和三線城市推動了WazirX總用戶注冊量的近55%,從而超過了一線城市,其注冊量增長了2,375%。 專家表示,推動加密貨幣在小城市增長的主要原因是社交媒體和有影響力的積極營銷。加密貨幣交易所還積極針對居住在小城市的新一代專業人士提供新計劃和鮮產品,包括新的加密貨幣、NFT和指數產品等。此外,交易所現在正在推出系統投資計劃 (SIP) ,以吸引更多的新投資者。(economic times)[2021/9/19 23:36:24]

而在當時,讓GPU可編程,是“無用且虧本”的:不知道其性能是否能夠翻倍,但產品研發會翻倍。為此,沒有客戶愿意為此買單。但預判到單一功能圖形處理器不是長遠之計的英偉達毅然決定,在所有產品線上都應用CUDA。

在芯東西與英偉達中國區工程和解決方案高級總監賴俊杰博士的采訪中,賴俊杰表示:“為了計算平臺這一愿景,早期黃仁勛快速調動了英偉達上上下下非常多的資源。”

遠見+重金投入,在2012年,英偉達拿到了創新者的獎勵:2012年,深度學習算法的計算表現轟動學術圈,作為高算力且更為通用、易用的生產力工具,GPU+CUDA迅速風靡計算機科學界,成為人工智能開發的“標配”。

在AI大算力芯片的征途上,存算一體芯片迎來了自己的“黃金期”,超前投入,是為正解。

PART-02 非技術、資金雄厚者,勿進

窺見到存算一體的種種好處,現階段,存算一體芯片玩家陣營日益龐大。

據偲睿洞察不完全統計,自2019年起,新增的AI芯片廠商,多數在布局存算一體:在2019-2021年新增的AI芯片廠商有20家,在這之中,有10家選擇存算一體路線。

這無一不說明著,存算一體將成為繼GPGPU、ASIC等架構后的,一顆冉冉升起的新星。而這顆新星,并不是誰都可以摘。

在學界、產界、資本一致看好存算一體的境況下,強勁的技術實力、扎實的人才儲備以及對遷移成本接受度的精準把控,是初創公司在業內保持競爭力的關鍵,也是擋在新玩家面前的三大門檻。

強勁的技術實力,永遠是芯片領域的最高山。

首先是存算一體“涉獵廣泛”,涉及到芯片制造的全環節:從最底層的器件,到電路設計,架構設計,工具鏈,再到軟件層的研發;其次是其“牽一發而動全身”:在每一層做相應改變的同時,還要考慮各層級之間的適配度。

我們一層一層來看,一顆存算一體芯片被造出來,有怎樣的技術難題。

首先,在器件選擇上,廠商就“如履薄冰”:存儲器設計決定芯片的良率,一旦方向錯誤將可能導致芯片無法量產。

其次是電路設計層面。電路層面有了器件之后,需要用其做存儲陣列的電路設計。而目前在電路設計上,存內計算沒有EDA工具指導,需要靠手動完成,無疑又大大增加了操作難度。

緊接著,架構層面有電路之后,需要做架構層的設計。每一個電路是一個基本的計算模塊,整個架構由不同模塊組成,存算一體模塊的設計決定了芯片的能效比。模擬電路會受到噪聲干擾,芯片受到噪聲影響后運轉起來會遇到很多問題。

這種情況下,需要芯片架構師足夠了解模擬存內計算的工藝特點,同時針對這些特點去設計架構,在此基礎上,還要考慮到架構與軟件開發的適配度。軟件層面架構設計完成后,還需要開發相應的工具鏈。

(圖源:偲睿洞察《AI大算力芯片行業報告-百舸爭流,創新者先》)

而由于存算一體的原始模型與傳統架構下的模型不同,編譯器要適配完全不同的存算一體架構,確保所有計算單元能夠映射到硬件上,并且順利運行。

一條完整的技術鏈條下來,考驗著器件、電路設計、架構設計、工具鏈、軟件層開發各個環節的能力,與協調各個環節的適配能力,是耗時耗力耗錢的持久戰。

同時,根據以上環節操作流程可以看到,存算一體芯片亟需經驗豐富的電路設計師、芯片架構師。

鑒于存算一體的特殊性,能夠做成存算一體的公司在人員儲備上需要有以下兩點特征:

1、帶頭人需有足夠魄力。在器件選擇(RRAM、SRAM等)、計算模式(傳統馮諾依曼、存算一體等)的選擇上要有清晰的思路。這是因為,存算一體作為一項顛覆、創新技術,無人引領,試錯成本極高。能夠實現商業化的企業,創始人往往具備豐富的產業界、大廠經驗和學術背景,能夠帶領團隊快速完成產品迭代。

2、在核心團隊中,需要在技術的各個層級中配備經驗豐富的人才。例如架構師,其是團隊的核心。架構師需要對底層硬件,軟件工具有深厚的理解和認知,能夠把構想中的存算架構通過技術實現出來,最終達成產品落地;

3、此外,據量子位報告顯示,國內缺乏電路設計的高端人才,尤其在混合電路領域。存內計算涉及大量的模擬電路設計,與強調團隊協作的數字電路設計相比,模擬電路設計需要對于工藝、設計、版圖、模型pdk以及封裝都極度熟悉的個人設計師。

而這一系列的人才與技術,都要以落地效果為終極目標——落地才是第一生產力。在交付時,客戶考量的并不僅僅是存算一體技術,而是相較于以往產品而言,存算一體整體SoC的能效比、面效比和易用性等性能指標是否有足夠的提升,更重要的是,遷移成本是否在承受范圍內。

如果選擇新的芯片提升算法表現力需要重新學習一套編程體系,在模型遷移上所花的人工成本高出購買一個新GPU的成本,那么客戶大概率不會選擇使用新的芯片。

因此,存算一體在落地過程中是否能將遷移成本降到最低,是客戶在選擇產品時的關鍵因素。

在大模型背景下,存算一體芯片憑借著低功耗但高能效比的特性,正成為芯片賽道,冉冉升起的一顆新星。現如今,存算一體市場風云未定,仍處于“小荷才露尖尖角”階段。

但我們不可否認的是,存算一體玩家已然構筑了三大高墻,非技術實力雄厚,人才儲備扎實者,勿進。

36氪

媒體專欄

閱讀更多

金色財經 善歐巴

元宇宙Lab

比推 Bitpush News

Tags:區塊鏈CHAGPT加密貨幣區塊鏈dapp開發框架Health care chainMGPT價格美國加密貨幣

BNB
比特幣:NYDIG:萊特幣周四減半 為比特幣減半行情提供什么線索?_加密貨幣怎么賺錢

作者:Greg Cipolaro,NYDIG 全球研究主管  編譯:WEEX 唯客萊特幣將在本周迎來第三次減半,通過觀察萊特幣,可為比特幣在減半過程中的表現提供參考.

1900/1/1 0:00:00
OLY:同行相輕 ZK-EVM們的愛恨情仇_polygon幣

作者:深潮TechFlow幾家做zk-EVM的項目,彼此都希望齊頭并進把擴容的賽道做大,同時背地里又可能暗暗較勁,希望自己是那個唯一。在加密世界里,說自己能解決一個問題往往價值千金.

1900/1/1 0:00:00
IME:可口可樂基于Base部署 Masterpiece NFT 系列_BTCRED幣

作者:MARTIN YOUNG,COINTELEGRAPH;編譯:松雪,金色財經全球最大的軟飲料品牌正在深入研究不可替代代幣.

1900/1/1 0:00:00
ARCADE:全鏈游戲的金鑰匙:街機賬戶_ADE

區塊律動BlockBeats街機帳戶到底是什么?其運行原理又是什么樣的?得益于 Play-to-earn 的模式,像 StepN 這樣的 GameFi 游戲迅速走紅.

1900/1/1 0:00:00
BOT:異軍突起的 TG BOT:鏈上營銷與草根逆襲的狂歡 安全問題待解_UNI

作者:defioasis,吳說TG交易機器人(TG Bot)在近期冷淡的市場環境中異軍突起,Coingecko 上線 TG Bot 板塊.

1900/1/1 0:00:00
FDUSD:增長最快的穩定幣FDUSD解析_DUSD

作者:Tom Wan,21.co研究分析師;翻譯:金色財經0xxz增長最快的穩定幣是什么?不是crvUSD,也不是GHO,而是First Digital Labs發行的FDUSD.

1900/1/1 0:00:00
ads