上周,OpenAI 大型語言模型 GPT-4 一經公布便引發了全球科技圈與媒體的關注,60秒創建出一款小游戲,將一張草圖快速變為功能性的網站,完美通過歷史、數學等幾乎所有的學科考試,檢查代碼漏洞等等,各種逆天的功能展示它極為強大的能力,可以說,GPT-4 成為了在知識、技能、邏輯領域的全能人才,比以往的任何 AI 都要強大,而這一款瘋狂的產品或將預示著 AI 奇點的到來。
GPT-4與GPT-3.5各項考試成績對比
在 AI 開始不斷刷新人們認知的同時,另一個更為底層的領域也同樣發生著巨變,那就是算力。眾所周知,AI 模型都需要消化大規模的數據,同時也需要消耗更為龐大的算力,諸如圖像識別、自然語言處理和機器學習等各種AI應用和模型的訓練,都依賴于龐大算力的加持。
彭博社:ChatGPT已可解讀美聯儲聲明,并根據頭條新聞預測股價走勢:4月19日消息,在本月發表的兩篇新論文顯示,ChatGPT 已可解讀美聯儲聲明中的鷹派或鴿派立場,并可根據頭條新聞預測股價走勢。
ChatGPT 甚至能夠以一種類似于央行分析師的方式解釋其對美聯儲政策聲明的分類,后者也將語言解釋為該研究的人類基準。
同時,研究發現,ChatGPT 根據新聞標題預測的股價后續走勢與統計數據有關,表明該技術能夠正確分析消息的含義。
這兩篇新論文表明,ChatGPT 甚至可以在沒有經過專門培訓的情況下完成類似的任務。(彭博社)[2023/4/19 14:12:35]
據 OpenAl 此前發布的數據顯示,從2012年到2020年,其算力消耗平均每3.4個月就翻倍一次,8年間算力增長了三十萬倍,更不用談自去年 ChatGPT 推出后爆火所帶來的需求暴漲。
比爾·蓋茨:ChatGPT的重要性不亞于互聯網的發明:2月10日消息,微軟聯合創始人比爾·蓋茨在接受德國《商報》采訪時表示,他認為聊天機器人ChatGPT的重要性不亞于互聯網的發明。ChatGPT能夠對用戶的查詢做出驚人的類似人類的回答。直到現在,人工智能可以閱讀和寫作,但無法理解內容。像ChatGPT這樣的新程序將通過幫助書寫發票或信件,使許多辦公室工作更加高效。這將改變我們的世界。[2023/2/10 11:59:42]
此外,AI 時代算力的增長也遠遠超過了摩爾定律每18個月翻番的速率,根據中國信息通信研究院的估算,2021年全球超算算力規模大約為14EFlops,預測到2030年全球超算算力將達到0.2ZFlops,平均年增速超過34%。AI 的奇點的到來也將會成就算力領域的黃金時代,同時,算力的發展好壞也將會影響著其未來的發展,兩者彼此成就。
騰訊正有序推進ChatGPT和AIGC相關方向的專項研究:2月9日消息,騰訊相關人士向記者表示,騰訊目前在ChatGPT和AIGC相關方向上已有布局,專項研究也在有序推進。騰訊持續投入AI等前沿技術的研發,基于此前在AI大模型、機器學習算法以及NLP等領域的技術儲備,將進一步開展前沿研究及應用探索。(科創板日報)[2023/2/9 11:57:22]
OpenAl算力消耗情況 數據來源:阿里研究院《數實融合的第三次浪潮》
目前,關于 AI 算力的優化技術主要有以下幾種:
GPU資源池化:通過虛擬化和遠程調用,將GPU從硬件定義轉換成軟件定義的資源池,實現資源的共享、按需分配、彈性伸縮和統一管理。
GPT突破2500USDT,短浮增長6.6%:據MXC抹茶行情顯示,GPT現報價2536USDT,日內漲幅12.38%。據介紹,GPT為ECOC公鏈上的去中心化DEFI生態項目,主要作用為進行合約延時。[2020/12/13 15:04:05]
計算精度優化:通過混合精度計算,利用不同的浮點數類型在保證模型訓練和推理效果的同時,降低數據傳輸和存儲成本。
模型壓縮優化:通過參數剪枝、量化等方法,減少模型參數量和計算復雜度,降低模型大小和內存占用。
面對算力需求的增長,短期內可以從軟硬件和工程優化等角度解決,但在未來十年,二十年之后呢?當芯片逼近量子極限,當 AI 的進化需要越來越龐大的數據、越來越多的預訓練模型參數、越來越高的算法精度時,會帶來對算力需求的指數級增長,而且這種增長是長期性的,由此帶來的成本問題將會成為一個不可規避的難題。同時這也會讓 AI 只有巨頭才能入局的游戲,據悉,OpenAI 接受微軟投資的很大原因就是為了獲得微軟云 Azure 的計算支持。
所以,為了能降低成本,并獲得更多的算力來支持 AI 項目的進一步發展,很多新興企只能選擇與大型云算力企業合作,作為交換讓渡出部分權利,而去中心化的算力系統或許能在一定程度上解決這一問題,并降低 AI 模型訓練的門檻。
去中心化算力是指將分散在不同地點、不同設備上的計算資源整合起來,形成一個去中心化的網絡。以此,為 AI 應用提供更加靈活、高效、低成本的計算服務,其潛在優勢體現以下幾個方面:
提供分布式計算能力,支持人工智能模型的訓練和運行,使任何人都能運行AI模型,并在來自全球用戶的真實鏈上數據集上進行測試。
去中心化還可以通過創建一個強大的框架來解決隱私問題。
通過提供透明、可驗證的計算過程,增強人工智能模型的可信度和可靠性。
通過提供靈活、可擴展的計算資源,支持人工智能模型在各種應用場景下快速部署和運行。
提供去中心化的數據存儲和管理方案。
目前,已經有項目在探索以去中心算力+AI的組合,例如:
Gensyn:該協議通過智能合約方式促進機器學習(ML)的任務分配和獎勵,來快速實現 AI 模型的學習能力,適用于深度學習計算的L1層,可以在大規模、低成本的網絡中實現 ML。
Flux:一個基于區塊鏈技術的去中心化 AI 平臺,通過智能合約來規范 AI 任務的發布、執行和驗證過程,并使用 Token 作為激勵機制。
Golem:一個提供算力市場的點對點去中心化計算網絡,支持任何人都可以通過創建共享資源的網絡來共享和聚合計算資源。
但去中心化算力網絡與 AI 的結合也需要解決驗證問題,即如何確保運算結果的正確性和可信性。此外,算力增長所帶來的電力消耗也是一個不可忽視的問題,據統計,訓練 GPT-3 模型消耗的能源相當于120個美國家庭一年的耗電量,而這只是實際使用模型所消耗的電力的40%左右。
相比算力增長來說,能源電力稱不上難題,隨著技術的突破,AI 所展現出的潛力將會激發了更多的企業和研究機構投身其中,這些問題可能會被一一解決。而從計算機視覺到自然語言處理,從機器人學到推理、搜索,人工智能所帶來的生產力變革正在改變我們當前的工作方式,在技術發展的道路上,科幻照進現實只是時間問題。
來源:DeFi之道
DeFi之道
個人專欄
閱讀更多
金色財經 善歐巴
金色早8點
白話區塊鏈
Odaily星球日報
MarsBit
歐科云鏈
深潮TechFlow
Arcane Labs
BTCStudy
ZK領域頭部專家在本文中分享了零知識證明協議在機制設計和工程建構上的安全原則與新穎方案,以及在設計過程中的種種權衡.
1900/1/1 0:00:00根據 Rootdata 統計的數據,Hashkey Capital 的公開披露的投資組合數量為 224 個,在所有風投基金中位居第四.
1900/1/1 0:00:003月22日,生命未來研究所 (Future of Life) 向全社會發布了一封《暫停大型人工智能研究》的公開信,呼吁所有人工智能實驗室立即暫停比GPT-4 更強大的人工智能系統的訓練.
1900/1/1 0:00:00一方面,貨幣政策目前還沒有明顯放松,盡管朝著這個方向轉變的預期似乎確實推動了本周的走勢。 另一方面,加密敘事是多層遞進式的,每一層都將提供價格支持,它還準備在未來發揮更大的相關性.
1900/1/1 0:00:00作者:北辰 但尷尬的是,DeFi衍生品賽道直到半年前才開始真正繁榮,并且跑出來的項目都在我們的關注視野之外……尤其是我們認為它們就DeFi衍生品而言,要么不夠DeFi,要么不夠衍生品.
1900/1/1 0:00:00隨著Web3.0社交產品的普及,其用戶數量不斷攀升。然而,一旦空投結束,日活用戶數量就會急劇下滑。項目需要什么來維持生命力?代幣化是否能夠真正激勵用戶參與仍是一個謎團.
1900/1/1 0:00:00