買比特幣 買比特幣
Ctrl+D 買比特幣
ads

APE:一文了解 ZK 在推進鏈上 AI 的作用_PAPADOGE

Author:

Time:1900/1/1 0:00:00

原文來自:Modulus Labs

編譯:DeFi 之道

很高興終于可以與你們分享我們的第一篇論文,該論文是通過以太坊基金會的資助完成的,它的名稱是《The Cost of Intelligence: Proving Machine Learning Inference with Zero-Knowledge?》(或 paper0,這是酷孩子們的叫法)。

沒錯,這些都是真數字!有圖表!論文還討論了理論結構及其對性能的影響!事實上,paper0 是第一個跨通用 AI 原語套件對 ZK 證明系統進行基準測試的研究工作,你現在就可以閱讀整篇論文。

而這篇文章,你可以將其視為論文的總結,有關詳細信息,請參閱原論文。

事不宜遲,讓我們深入了解:

事實上,計算的未來將大量使用復雜的人工智能。看看我的文本編輯器:

Notion 的提示告訴我,他們的 LLM 可以讓這句話變得更好

NFT市場Blur總交易額突破50萬枚ETH:1月2日消息,據Dune Analytics數據信息,NFT市場Blur交易額已突破50萬枚ETH,截至目前為503,500ETH,約合6.13億美元。此外,Blur平臺當前交易總量已突破100萬筆,當前達到1,093,395筆,其中獨立買家數量為74,553個。[2023/1/3 22:21:31]

然而,鏈上不存在功能性神經網絡,甚至連最小的推薦系統或匹配算法都不存在。真見鬼!甚至連實驗也沒有一個……當然,原因是非常明顯的,因為這太貴了,畢竟,即使運行價值數十萬 FLOP 的計算(僅夠在微型神經網絡上進行一次推理)的成本也是數百萬 gas,目前相當于數百美元。

那么,如果我們想將 AI 范式帶入無需信任的世界,我們該怎么做?我們會翻車(roll-over),然后放棄(give up)嗎?當然不是…等等!Roll-over)……Give up……

如果像 Starkware、Matter Labs 和其他公司這樣的 Rollup 服務,正在使用零知識證明來大規模擴展計算,同時保持密碼學安全,那么我們能為 AI 做同樣的事情嗎?

波場TRON賬戶總數突破1.3億:據官方最新消息,2022年12月18日,TRONSCAN最新數據顯示,波場TRON賬戶總數達到130,235,049,正式突破1.3億。波場TRON各項數據穩中前進,波場生態逐漸強大的同時,也將迎來更多交易量。[2022/12/18 21:52:04]

這個問題成為推動我們在 paper0 中工作的激勵種子。 劇透警報,以下是我們發現的:

paper0 總結

這是眾所周知的秘密:AI 性能幾乎總是與模型大小成比例。 這種趨勢看起來也沒有放緩。 只要這種情況仍然存在,對于我們這些 web3 中的人來說,這將是特別痛苦的。

畢竟,計算成本是我們最終、不可避免的噩夢來源。

今天的 ZKP 已經可以支持小模型了,但中型到大型模型打破了范式

彭博高級分析師:比特幣可能成為全球抵押品:金色財經報道,Bloomberg Intelligence高級商品策略分析師邁克·麥格隆(Mike McGlone )稱:“比特幣和加密貨幣是 2021 年熱潮的關鍵部分,因此也是 2022 年熱潮的一部分,但我看到比特幣和以太坊走在前面。在這樣的世界中,比特幣正在成為全球數字抵押品,而以太坊是數字革命的主要驅動力,這可以從交易最廣泛的加密貨幣——穩定幣中得到證明。”(beincrypto)[2022/8/8 12:08:51]

對于 paper0,我們關注任何零知識證明系統中的 2 個基本指標:

證明生成時間:prover 創建 AI 推理的伴隨證明所需的時間,以及

prover 內存使用峰值:證明者在證明期間的任何給定時間用于生成推理證明的最大內存;

這主要是一個實際的選擇,并且是從我們構建 Rockybot 的經驗中做出的(證明時間和內存使用是確定任何無需信任人工智能用例可行性的直接優先事項)。 此外,所有測量都是針對證明生成時間進行的,并且沒有考慮預處理或 witness 生成。

當然,還有其他方面的成本需要跟蹤。 這包括驗證者運行時間和證明大小。我們將來可能會重新審視這些指標,但將它們視為 paper0 的范圍之外。

三箭Zhu Su:LUNA崩盤后 貸方對其財務狀況“感到滿意” 仍允許其正常運營:7月22日消息,三箭資本創始人Zhu Su在接受采訪時表示,他們未預料到LUNA能在幾天內跌至歸零,并引發整個行業的信貸緊縮,從而對三箭所有流動性不足的頭寸造成巨大壓力。

盡管如此,該基金仍能夠繼續從大型數字資產貸方和富有的投資者那里借款,直到這些機構本身陷入危機。在LUNA崩盤后,ZhuSu表示貸方對三箭資本的財務狀況“感到滿意”,并允許他們繼續交易。

Zhu Su表示,在那段時間里,我們繼續照常運營。但是在那一天之后,當比特幣從30,000美元跌到20,000美元的時候,我們非常痛苦,這最終導致了我們的失敗。如果我們更多地參與其中,我們會發現信貸市場本身可能是一個循環,我們可能無法在我們需要的時候獲得額外的信貸。(彭博社)[2022/7/22 2:30:55]

至于我們測試的實際證明系統,通過投票,我們選定了 6 個:

Paper0 測試的證明系統匯總表,以及協助我們的作者

Messari創始人:Genesis因三箭資本損失的12億美元或超過DCG歷史總凈收入:7月19日消息,Messari創始人Ryan Selkis表示,Genesis因三箭資本損失的12億美元,很有可能超過Digital Currency Group(DCG)歷史總凈收入。Grayscale總凈收入約為10億美元。Messari預估Genesis在2020年的收入為5000萬美元,假設去年收入增長5倍,并且一直保持30%的利潤率,額外的2億美元也會抹去該產品線的所有凈收入。

此前消息,加密貨幣經紀商Genesis Global Trading對現已破產的三箭資本提出了12億美元的索賠。Genesis的母公司Digital Currency Group(DCG)已經承擔了Genesis在該案中的部分債務,但目前尚不清楚有多少債務仍由Genesis承擔。[2022/7/19 2:24:09]

最后,我們創建了兩套用于基準測試的多線性感知器(MLP)——值得注意的是,MLP 相對簡單,主要由線性運算組成。這包括一套隨著參數數量增加而擴展的架構(最多 1800 萬參數和 22 GFLOP),以及第二套隨著層數增加而擴展(最多 500 層)的架構。如下表所示,每個套件都測試了證明系統以不同方式擴展的能力,并大致代表了從 LeNet5(6 萬參數,0.5 MFLOP)到 ResNet-34(2200 萬參數,3.77 GFLOP)的知名深度學習(ML)架構的規模。

參數和深度基準套件

對于以上 6 個證明系統的參數和深度范圍的證明生成時間結果

對于以上 6 個證明系統的參數和深度范圍內的峰值內存結果

有關這些結果的完整內容,以及對每個系統內瓶頸的深入分析,請參閱 paper0 的第 4 節。

好吧,以上是一些非常簡潔的圖表,而以下則是要點:

那這在實踐中究竟意味著什么? 我們將重點介紹 2 個示例:

1、Worldcoin:Worldcoin 正在構建世界上第一個“隱私保護身份證明協議”(或 PPPoPP),換句話說,通過將身份驗證與一種非常獨特的生物特征(虹膜)聯系起來來解決女巫攻擊問題。這是一個瘋狂的想法,它使用卷積神經網絡來壓縮、轉換和證明存儲的虹膜數據。雖然他們當前的設置涉及 orb 硬件中安全飛地內的可信計算環境,但他們希望改為使用 ZKP 來證明模型的正確計算。這將允許用戶對自己的生物特征數據進行自我保護,并提供加密安全保證(只要在用戶的硬件上進行處理,比如手機)。

現在具體一點:Worldcoin 的模型具有 180 萬參數和 50 層。 這是區分 100 億個不同虹膜所必需的模型復雜性。 哎呀!

雖然在計算優化的云 CPU 上證明 Plonky2 等系統,可以在幾分鐘內為這種規模的模型生成推理證明,但證明者的內存消耗將超過任何商用移動硬件(數十 GB 的 RAM)。

事實上,沒有一個測試系統能夠在移動硬件上證明這個神經網絡……

2. AI Arena:AI Arena 是一款類似于《任天堂明星大亂斗》風格的鏈上平臺格斗游戲,其具有一個獨特的特點:玩家并不是操作化身實時進行對抗,而是讓玩家擁有的 AI 模型相互競爭和戰斗,是的,這聽起來很酷。

隨著時間的推移,AI Arena 的出色團隊正努力將他們的游戲轉向一個完全無需信任的錦標賽計劃。但問題是,這涉及驗證每次游戲數量驚人的 AI 計算的挑戰。

比賽以每秒 60 幀的速度運行,持續 3 分鐘時間。這意味著每輪比賽,兩個玩家模型之間的推理結果超過 20000 個。以 AI Arena 的一個策略網絡為例,一個相對較小的 MLP 需要大約 0.008 秒來執行一次前向傳遞,使用 zkCNN 證明該模型需要 0.6 秒,即,每采取一次動作就需要增加 1000 倍的計算。

這也意味著計算成本將增加 1000 倍。隨著單元經濟對鏈上服務變得越來越重要,開發人員必須平衡去中心化安全的價值與證明生成的實際成本。

https://aws.amazon.com/ec2/pricing/

無論是上面的例子,ZK-KYC,DALL-E 風格的圖像生成,還是智能合約中的大型語言模型,ZKML 的世界中都存在著一個完整的用例世界。然而,要真正實現這些,我們強烈認為 ZK prover 仍需要大量改進。特別是對于自我完善的區塊鏈的未來。

那么,我們該何去何從?

我們有具體的表現數據,我們知道在證明神經網絡時哪些技術往往表現最好。當然,我們開始發現各種用例,這些用例激勵了我們不斷成長的社區。

我想知道接下來會發生什么……

很快就會為你們提供更多更新;)

隔夜的粥

個人專欄

閱讀更多

金色財經

金色早8點

Odaily星球日報

Arcane Labs

澎湃新聞

歐科云鏈

深潮TechFlow

MarsBit

BTCStudy

鏈得得

Tags:GENAPEPAPPAPERDEGEN幣ApeX ProtocolPAPADOGEFlyPaper

比特幣價格今日行情
NFT:Blur發幣 它是如何在短期之內超越Opensea的?未來潛力如何_BLU

金色財經記者Jessy 2月15日凌晨一點,Blur第三輪空投發放,其代幣也正式上線交易所Okex,火必,Coinbase,Bitget等交易所.

1900/1/1 0:00:00
穩定幣:以太坊基金會研究員:加密世界最酷的實驗項目RAI_cdp幣圈

文/Dankrad Feist, 以太坊基金會研究員;譯/金色財經xiaozouRAI——加密世界最酷的實驗之一我認為RAI是當前加密世界最酷的實驗之一.

1900/1/1 0:00:00
PAR:NFT市場下一個風口:動態NFT機制與用例解讀_NFT

2022 年,NFT 開始變得更加無處不在,成為資本的寵兒、鏈上世界的新星。Uniswap 一雙襪子就賣了 16 萬美元,推特創始人五個單詞拍出 250 萬美元,加密藝術家 Beeple 數字作.

1900/1/1 0:00:00
WEB3:Web3下一場新的敘事?以太坊上海升級哪些細節值得你關注_WEB3幣

以太坊上海升級,也被眾多媒體稱為Web3下一場新的敘事,這也是目前大家討論最多的一熱點。2023年3月,以太坊將推出預期的上海升級,截止發稿前,本次升級主要包括EIP-3540、EIP-3651.

1900/1/1 0:00:00
DAM:最火的Web3社交平臺Damus 一周就變成了「互聯網廁所」_STR

一切都發生的太快了。 2 月 1 日,Twitter 聯合創始人及前 CEO Jack Dorsey 發布推文表示,基于分布式社交媒體協議 Nostr 的社交產品 Damus 和 Amethys.

1900/1/1 0:00:00
USD:BUSD停發 DeFi穩定幣成為最大贏家?_FRA

作者:Ignas,DeFi 研究員編譯:0x11,Foresight News隨著監管機構打擊 BUSD,DeFi 穩定幣將迎來新的發展契機.

1900/1/1 0:00:00
ads