Overview
通過這篇文章你可以了解:
什么是on-chainAI?為什么還沒有鏈上AI?AI上鏈的動力;技術路徑;我理解的on-chainAI價值;on-chainAI的應用場景和項目分析。一、AI+blockchain=?
開發者對基礎設施建設的瘋狂執著和各種rollup解決方案的更新迭代確實讓原本落后的web3計算能力實現了突破,這也為AI上鏈提供了可能性,但你可能想說與其大費周章地實現鏈上AI,直接在鏈下運行模型似乎也能滿足大部分需求,而事實上現在幾乎所有的AI模型都是以黑盒、中心化的模式在運行,并且同樣在各個領域創造了無法替代的價值。
1)先回到最基礎的問題,什么是AI上鏈?
主流的理解是通過區塊鏈讓AI模型transparent+verifiable
再具體一點,AI上鏈意味著人工智能模型的completeverification,也就是說一個模型需要向全網公開以下三點:
模型架構;模型參數和權重:公開參數和權重有時候會對產品安全性產生負面影響,因此,針對特定場景,比如風控模型,可以對weight做隱藏處理以確保安全性;模型輸入:在web3的場景里基本上是鏈上公開數據。當滿足以上條件時,整個模型執行的過程是具備確定性的且不再是黑盒操作,任何人都可以在鏈上對模型的輸入和結果進行驗證,從而防止模型擁有者或者相關權限人對模型進行操縱。
2)AI+blockchain的動力是什么?
AI與blockchain結合的意義不在于替代中心化的Web2人工智能的運作模式,而是:
在不犧牲去中心化和trustless的基礎上,為web3世界創造下一階段的價值。目前的區塊鏈就像是web2的早期階段,還沒有承接更廣泛應用或者創造更大價值的能力。而只有在加入AI之后,dapp的想象力才能真正跳躍到下一階段,這些鏈上應用才有可能更接近web2應用的水平,這種接近并不是從功能上做的更相似,而是通過發揮區塊鏈的價值,從用戶體驗和可能性上做出提升。為web2黑盒的AI運行模式提供一種透明的、trustless的解決方案。想象一下web3的應用場景:
將推薦算法加入到NFT交易平臺,基于用戶喜好推薦相應NFT,提高轉化;在游戲中加入AI對手方,更透明、公平的游戲體驗;……
但是,?這些應用都是通過AI對已有的功能在效率或者用戶體驗上的進一步改善。
-有價值嗎?有。
-價值大嗎?取決于產品和場景。
AI能創在的價值從來都不僅是99到100的優化,真正讓我興奮的,是從0到1的全新應用,一些只有通過transparent+verifiable的鏈上模型才能實現的usecase。不過這些“令人興奮的”usecase目前主要靠想象力,沒有成熟的應用,先來開幾個腦洞:
比特幣Ordinals第二季度交易量達到2.1億美元:金色財經報道,比特幣Ordinals的蓬勃發展導致交易量在2023年第二季度急劇增加,其交易量從今年第一季度的718萬美元增加,使第二季度交易量達到2.107億美元,DappRadar預計季度增長率為2834%。第二季度比特幣Ordinals交易量超過550,000筆,約150,000名獨立交易者促成了交易量的膨脹。[2023/7/7 22:24:12]
通過基于neuralnetwork的決策模型做cryptotrading:?一種產品形態可能更像是copytrading的升級版本,甚至是一種全新的交易玩法。用戶不再需要信任或調研其他experiencedtrader,而是對徹底公開透明的模型以及其performance下注。本質上AI根據對crypto未來價格的預測更快更果斷地進行交易。然而沒有鏈上AI自帶的“trustlessautonomy”,這樣的下注對象或者標準根本是不存在的。用戶/投資者可以透明地看到模型決策的原因、過程甚至未來上漲/下跌的精確概率;AI模型作為裁判:?一種產品可能是全新形態的預言機,通過AI模型對數據來源的準確性進行預測。用戶不再需要信任validator,也不必擔心節點作惡,預言機提供方甚至不需要設計復雜的節點網絡和獎懲機制來實現去中心化。相應地,鏈上transparent+verifiable的AI已經足夠滿足驗證鏈下datasource置信度的任務。這種全新的產品形態在安全性、效率和成本上有機會形成碾壓,去中心化的對象也由人跳躍到“trustlessautonomy”的AI工具,無疑是更安全的。基于大模型的組織管理/運作體系:?DAO的治理本質上應該是高效、去中心化、公平的,而現在的現狀卻背道而馳,松散且臃腫,缺乏透明和公平性,鏈上AI的加入能提供非常契合的解決方案,將管理模式、效率提升到最高,將管理中系統性和人性的風險無限拉低。我們甚至可以去想象一種全新的web3項目的發展和運作模式,整個框架及未來發展方向和提案幾乎不依賴開發團隊或者DAO投票的方式來進行決策,相應的,基于大模型更龐大的數據獲取量和遠超人的計算能力去做決策。但這一切的前提也是模型上鏈,沒有AI的“trustlessautonomy”就不存在去中心化世界從人到工具的躍遷。……
小結一下
基于鏈上AI的新的產品形態基本可以總結為將去中心化和trustless的主體從人變為AI工具,這也符合傳統世界生產力的進化過程,最開始是在人這個主體上下功夫,不斷升級提升人效,到后面通過智能工具替代人,在安全性和效率上顛覆原有的產品設計。
其中最關鍵的、也是以上一切的前提,是通過區塊鏈實現AI的transparent+verifiable。
3)Web3的下一個階段
區塊鏈作為一個現象級的技術創新,不可能僅僅停留在原始階段。流量和經濟模型很重要,但用戶不會一直停留在追捧流量或花費大量資源做Xtoearn,web3也不會因此onboard下一波新用戶。但有一件事的確定性是很強的:web3世界生產力和價值的革命一定來自AI的加入。
加密對沖基金Arca裁員30%:金色財經報道,加密對沖基金公司Arca以持續的加密冬天和監管不確定性為由解雇了 30% 的員工。Arca 的一位發言人表示,在這個長期的熊市和不確定的監管環境中,增長很難預測,公司人員調整可以保留資本和資源,直到該行業經歷市場情緒轉變和清晰的監管形勢。[2023/6/6 21:18:05]
我覺得大致分成下面三個階段
起始:零知識證明算法和硬件的更新迭代為鏈上AI的涌現第一次提供了可能性;
發展:不管是AI對已有應用的提升還是基于AI+blockchain的全新產品,都在將整個行業向前推進;
終局:AI+blockchain的最終走向是什么?
上面的討論都是通過AI與區塊鏈的結合bottomup地發掘應用場景,換個思路topdown地看待AI+blockchain,AI會不會重溯區塊鏈本身?AI+blockchain=自適應的區塊鏈
一些公鏈會率先融合鏈上AI,從公鏈的層面轉變為一種自適應的,自身發展方向不再依賴項目基金會決策而是基于龐大數據進行決策、自動化水平遠超傳統區塊鏈的形態,從而從當前多鏈繁榮的格局中脫穎而出。
在verifiable+transparent的AI加持下,blockchain的自調節體現在哪里,可以參考moduluslab提到的幾個例子:
鏈上的交易市場可以去中心化地自動調節,比如基于鏈上公開數據實時、不需要trustassumption地調整穩定幣的interestrate;多模態學習可以讓鏈上協議的交互通過生物特征識別完成,提供安全的KYC,并實現身份管理的完全去信任;允許鏈上應用最大化地捕獲鏈上數據帶來的價值,支持定制化內容推薦等服務。從另一個角度看,zkrollup不斷迭代優化,但是始終缺乏一個真正只能在zk生態上跑的應用,ZKML恰好符合這一點,并且想象空間也足夠大。ZK-rollup未來很可能作為AI進入web3的入口從而創造更大價值,兩者互相成就。
二、實現方式和可行性
1)Web3能為AI提供什么?
基礎設施和ZK無疑是web3最瘋狂內卷的賽道,各種ZK項目在電路優化和算法升級上下足了功夫,不管是對多層網絡的探索,或者是對模塊化區塊鏈以及dataavailabilitylayer的開發,還是進一步將rollup做成定制化的服務,甚至硬件加速……這些嘗試都在將區塊鏈的可擴展性、成本、算力推向下一個階段。
AI+blockchain聽上去不錯,但具體怎么個加法?
一種做法是通過ZKproofsystem。比如針對machinelearning做一個定制化的電路,鏈下電路生成witness的過程就是模型執行的過程,對模型預測的過程生成proof,任何人都可以在鏈上驗證proof。
AI模型還是在高效的集群上執行,甚至搞點硬件加速進一步提升計算速度,在最大化利用算力的同時確保沒有中心化的人或者機構可以從中篡改或干涉模型,也就是確保:
比特幣礦企Sphere 3D完成300萬美元私募輪融資,LDA Capital參投:金色財經報道,比特幣礦企Sphere 3D已與LDA Capital簽訂證券購買協議,以籌集高達300萬美元的資金。Sphere3D首席執行官Patricia Trompeter表示,計劃利用這筆資金為存款提供資金,以激勵剩余的礦工。[2023/4/23 14:20:51]
模型預測結果的確定性=可驗證的
根據以上做法,可以進一步推斷哪些infra對AI上鏈至關重要:
ZKPsystem、rollup:Rollups擴張了我們對區塊鏈計算能力的想象空間,把一堆transactions打包,甚至遞歸地生成proofofproof進一步降低成本。對于現在龐大的模型來說,提供可能性的第一步就是proofsystem和rollup;硬件加速:ZKrollup提供了verifiable的基礎,但proof的生成速度直接關系到模型的可用性和用戶體驗,等待幾個小時去生成一個模型的proof顯然是不work的,因此,通過FPGA進行硬件加速顯然是一個很好的boost。密碼學:密碼學是區塊鏈的基礎,而鏈上模型以及敏感數據同樣需要保證隱私性。補充:
大模型的基礎是GPU,沒有高并行的支持,大模型的效率將會非常低,也就無法運行。因此,對于一個鏈上的zk生態:
GPU友好=AI友好
拿Starknet舉例,Cario只能在CPU上跑,因此只能部署一些小的決策樹模型,長期來看并不利好大模型的部署。
2)挑戰:更強大的proofsystem
ZKProof的生成速度和內存使用情況至關重要,一個關系到用戶體驗和可行性,一個關系到成本和天花板。
現在的zkpsystem夠用嗎?
夠用,但不夠好…
Moduluslab在文章“TheCostofIntelligence:ProvingMachineLearningInferencewithZero-Knowledge”非常詳細的分析了模型和算力的具體情況。有空可以讀一讀這篇ZKML屆的”零號文獻-paper0“:https://drive.google.com/file/d/1tylpowpaqcOhKQtYolPlqvx6R2Gv4IzE/view
以下是paper0中提到的不同證明系統
基于以上zk算法,moduluslab分別從時間消耗和內存占用兩個維度出發進行測試,并且在這兩個維度中分別控制了參數和層數兩個核心變量。以下是benchmarksuites,這樣的設計也可以大致覆蓋從LeNet5的60k參數量,0.5MFLOPs,到ResNet-34的22M參數量,3.77GFLOPs。
何一:Binance投資福布斯遇到一些困難:金色財經報道,Binance 孵化器和投資部門 Binance Labs 負責人何一在接受采訪時表示,目前正在尋找能夠為行業帶來長期利益的早期項目,而且已經在熊市中看到了投資機會,但她拒絕透露具體的投資標的細節,但稱“肯定會過濾掉一些為了賺快錢而一時興起的仿盤項目,因為這樣的項目缺乏可靠的商業模式,不會持久。
此外,何一透露投資福布斯似乎遇到一些困難,Binance 正在做調整,因為一些股東可能想稀釋持股,何一稱 Binance 沒有真正將媒體列為特定的投資目標。(forkast)[2022/9/19 7:06:50]
時間消耗的測試結果:
內存占用的測試結果:
基于以上數據,整體看目前的zk算法以及具備支持對大模型生成proof的可能性,但相應的成本依舊很高,需要甚至10倍以上的優化。以Gloth16為例,雖然受益于高并發帶來的computationtime的優化,但是作為tradeoff內存占用顯著增加。Plonky2和zkCNN在時間和空間上的表現同樣驗證了這一點。
那么現在問題其實就從zkpsystem是否可以支持鏈上AI轉變為了支持AI+Blockchain付出代價值不值??并且隨著模型參數的指數級上升,對proofsystem的壓力也會迅速增加。確實,現在有trustless的神經網絡嗎,沒有!就是因為成本算不過來。
因此,打造一個為AI定制化的proofsystem至關重要。同時,實現對AI這種單次調用計算十分復雜的邏輯,gas的消耗模型也需重新設計,一個高性能的zkvm至關重要,但現在我們已經能看到很多高性能的嘗試,比如OlaVM,polygonMiden等,這些基礎設施的不斷優化極大提升了onchain-AI的可行性。
三、應用是否值得期待?
盡管鏈上AI還在很早期階段,用上面的分層來看可能只處于起始到發展之間,但AI這個方向從不缺乏優秀的團隊和創新的想法。
就像上面說的,從AI+Blockchain發展階段看現在市場處于起始到發展的中間階段,產品嘗試方向還是以基于現有功能對用戶體驗優化為主。但最能體現價值的還是通過AI在鏈上將trustless的主體由人變為工具,在安全性和效率上顛覆原有的產品形態。
下面從一些現有的應用嘗試出發,分析一下AI+Blockchain長期的產品發展方向
1)TheRockefellerBot:世界上第一個on-chainAI
Rockefeller是moduluslab團隊推出的第一個鏈上AI的產品,有很強的“紀念價值”。這個模型本質上是一個tradingbot,具體來說,rockefeller的訓練數據是大量鏈上公開的WEth-USDC的price/exchangerate,其本身是一個三層前饋經網絡模型,預測目標是未來WEth價格漲跌。
NFT借貸協議Pine Protocol融資150萬美元,Sino Global Capital、Amber Group和Spartan Group領投:5月18日消息,無許可NFT加密借貸協議Pine Protocol宣布完成150萬美元種子輪融資,Sino Global Capital、Amber Group和Spartan Group領投,Alameda Research、Shima Capital、Impossible Finance和Gate Ventures跟投。新融資將用于進一步開發Pine平臺和Pine協議,并添加Solana、BNB Chain、Avalanche和Fantom等多鏈支持。
Pine平臺建立在Pine協議之上,可以使用NFT作為抵押品進行加密貨幣的無許可即時借貸。Pine平臺提供獨特的功能以提供更好的用戶體驗:“Pine Now, Pay Later”功能允許任何人在開放的NFT市場上通過抵押購買NFT,提供靈活的融資條款。
目前,Pine支持OpenSea和LooksRare,并將在未來添加更多市場。此外,NFT所有者將能夠保留其NFT的功能,例如接收空投和訪問封閉通道,即使它們被質押為抵押品。
據了解,自2月推出alpha版并于2022年4月底正式推出產品以來,Pine平臺已促成超過200萬美元的貸款。NFT用戶目前可以獲得30個流行的NFT收藏品的加密貸款,包括BAYC(Bored Ape Yacht Club)、Azuki、CloneX、Moonbirds、Doodles等。[2022/5/19 3:26:30]
以下是當tradingbot決策要進行交易時的流程:
Rockefeller在ZK-rollup上對預測結果生成ZKP;ZKP在L1上被驗證,并執行操作;可以看出tradingbot的預測、資金操作完全是去中心化且trustless的,就像上面提到的,從更高維度看rockefeller更像是一種全新的Defi玩法。相比于信任其他trader,這種模式下其實用戶賭的是transparent+verifiable+autonomous的模型。用戶可以不需要信任中心化的機構確保模型決策過程的合法性。同時,AI也能最大程度上的消除人性的影響,更果斷地進行交易。
你可能已經想給Rockefeller注點資金玩一玩了,但這真的能賺錢嗎?
并不能,?按照modulus團隊的說法,與其說rockefeller是一個應用,他更像是on-chainAI的POC,由于成本、效率、證明系統等多方面的限制,rockefeller的主要目的是作為一個demo讓web3世界看到on-chainAI的可行性。
2)Leela:世界上第一個on-chainAIgame
最近發布的Leelav.s.theworld同樣是出自moduluslab。游戲機制很簡單,人類玩家組成陣營對戰AI。游戲中玩家可以質押下注,最終誰會贏得對局,每次match結束后loser’spool會根據質押代幣的數量相應地分配給winner。
說到on-chainAI,這次moduluslab部署了一個更大的deepneuralnetwork(Parameter數量>3,700,000)。雖然在模型規模和產品內容上Leela都超越了rockefeller,但歸根結底這還是一次大型的on-chainAIexperiment。Leela的背后的機制和運行模式才是需要關注的,這能幫我們更好地理解鏈上AI的運行模式和改善空間,以下是官方給出的邏輯圖:
Leela的每一次move,也就是每次預測,都會生成ZKP,并且只有在經過合約驗證之后才會在游戲內生效。也就是說,受益于trustlessautonomousAI,用戶下注的資金和公平性完全受到密碼學的保護還不需要信任游戲開發者。
Leela采用的是Halo2算法,主要原因是它的工具和設計的靈活性可以幫助設計更高效的證明體系,具體performance情況可以參考上面的測試數據。但同時在Leela的運行中modulus團隊也發現了Halo2的弊端,比如生成證明的速度較慢,對one-shotproving不友好等。因此,也更加印證了之前基于測試數據得出的結論:如果需要將更大的模型帶入web3,我們需要開發更強大的proofsystem。
不過Leela的價值在于給我們帶來了AI+Web3game更大的想象空間,王者榮耀玩家此刻應該無比希望王者匹配算法fullyon-chain:)?Gamefi需要更優質的內容支撐和更公平的游戲體系,而on-chainAI恰好提供了這一點。打個比方,在游戲中加入AI-driven的游戲場景或者NPC,不管是玩家的游戲體驗還是經濟體系的玩法都提供了巨大的想象空間。
3)Worldcoin:AI+KYC
Worldcoin是一個鏈上身份體系(Privacy-PreservingProof-of-PersonhoodProtocol),通過生物識別建立身份體系并實現支付等衍生功能,解決的問題是對抗女巫攻擊,現在的注冊用戶超過了1.4m。
用戶通過一個叫Orb的硬件掃描虹膜,將個人信息添加到數據庫中,Worldcoin通過Orb硬件中的計算環境運行CNN模型壓縮并證實用戶虹膜數據的有效性。聽上去很強,但如果需要做到身份驗證的真正去中心化,worldcoin團隊正在探索通過ZKP驗證模型的輸出。
挑戰
值得一提的是,worldcoin的CNN模型的size:參數=1.8million,層數=50。基于上面展示的測試數據,現有的proofsystem在時間上完全可以勝任,但內存消耗對于消費級的硬件來說是不可能完成的。
4)其他項目
Pragma:Pargma是從starkware生態上發展起來的ZKoracle。同時團隊也在探索如何通過鏈上AI解決去中心化鏈下數據驗證的問題。用戶不再需要信任validator,而是通過足夠精準且可驗證的鏈上AI完成驗證鏈下datasource的工作,比如對于實際資產或者身份的驗證可以直接讓AI去讀取相印的物理信息作為輸入并做出決策。Lyrafinance:?Lyrafinance是一個optionAMM,提供衍生品交易市場。為了提高資本利用率,Lyra團隊和moduluslab正在合作開發基于可驗證AI模型的AMM。基于可驗證的、公平的AI模型,Lyrafinance有機會成為AI+Blockchain的一次大規模落地實驗,為web3用戶首次帶來公平的matchmaking,通過AI對鏈上市場進行優化,提供更高的回報。Giza:?ZKML平臺,將模型直接部署在鏈上而不是進行鏈下驗證,Nicetry,but…?由于算力以及Cairo不支持CUDA-based的證明生成的問題,Giza只能支持一些小模型的部署。這也是最致命的問題,從長期來看,能對web3產生顛覆性影響的一定是大模型,而這種規模的模型必須有強大的硬件支持,比如GPU。Zama-ai:模型的同態加密。同態加密是一種加密形式,簡單表示為:f=E,其中f是運算操作,E代表同態加密算法,x是變量,比如:E(a)?+E(b)=E(a+b)。允許對密文進行特定形式的代數運算得到仍然是加密的結果,將其解密所得到的結果與對明文進行同樣的運算結果一樣。模型的隱私性一直是AI+Blockchain方向的熱點和瓶頸,雖然zk對隱私友好,但zk不等于privacy。zama致力于確保模型執行的privacy-preserving。ML-as-a-service:?這目前還只是一個思考方向,沒有具體的落地應用,但目的是通過ZKP解決中心化ML服務提供者作惡以及用戶信任的問題。DanielKang在文章“TrustlessVerificationofMachineLearning”中有詳細的描述(參考文中的一張圖)
四、關于AI+Blockchain的總結
整體來說,在web3世界里的AI處于非常早期的階段,但是毋庸置疑的是onchain-AI的成熟和普及一定會把web3的價值帶到另一個高度。從技術上看,區塊鏈能給AI提供獨特的基礎設施,AI也是改變web3生產關系的重要工具,兩者的結合可以碰撞出很多可能性,這也是值得興奮和打開想象力的地方。從AI上鏈的動力看,一方面,transparent+verifiable的鏈上AI將去中心化和trustless的主體從人變為AI工具,極大提升了效率、安全性,并且為創造全新的產品形態提供了可能性;另一方面,區塊鏈的基礎設施不斷迭代,web3真正需要一個能讓這些基礎設施發揮最大價值的殺手級應用,ZKML恰好符合這一點,比如ZK-rollup未來很可能作為AI進入web3的入口。從可行性上看,現在的基礎設施能一定程度上支持一定規模的模型,但還有很多不確定因素。通過ZKP做可驗證模型目前看是AI上鏈的必經之路,可能也是確定性最強的將AI帶入的web3應用的技術路徑。但是長遠來看現在的proofsystem需要再進行指數級的提升才能足夠支持日漸龐大的模型。從應用場景看,AI幾乎可以完美地參與到任何一個web3的方向,不管是game、Defi、DID、tooling……雖然目前已有的項目非常匱乏而且缺乏長期價值,還沒有從一種提升效率的工具轉變為改變生產關系的應用。但值得興奮的是有人邁出了第一步,我們可以看到AI+blockchain的最早期的樣子和之后的可能性。Reference
https://worldcoin.org/blog/engineering/intro-to-zkmlhttps://medium.com/coinmonks/chapter-1-how-to-put-your-ai-on-chain-8af2db013c6bhttps://medium.com/@ModulusLabs/chapter-2-why-put-your-ai-on-chain-33b7625147b7https://medium.com/@ModulusLabs/chapter-3-the-worlds-first-on-chain-ai-trading-bot-c387afe8316chttps://medium.com/@ModulusLabs/chapter-4-blockchains-that-self-improve-e9716c041f36https://medium.com/@ModulusLabs/chapter-4-5-trustless-ai-for-living-breathing-games-cc9f24080e30https://medium.com/@ModulusLabs/chapter-5-the-cost-of-intelligence-da26dbf93307https://medium.com/@ModulusLabs/chapter-6-leela-vs-the-world-the-worlds-1st-on-chain-ai-game-17ea299a06b6https://drive.google.com/file/d/1tylpowpaqcOhKQtYolPlqvx6R2Gv4IzE/viewhttps://medium.com/@danieldkang/trustless-verification-of-machine-learning-6f648fd8ba88
Tags:CHAHAIAINChainTransferChainBAE ChainbaerchainTools Chain
01關鍵內容 在信標鏈上,約有562K+的驗證者質押了超過18M的ETH。LiquidStaking是市場上最大的玩家,占據了超過6M的質押ETH和33.3%的市場份額.
1900/1/1 0:00:00PolygonzkEVM系列文章的第一篇,簡要的闡述了polygonzkEVM的的整體架構和交易執行流程,并且分析了polygonzkEVM是如何實現計算擴容的同時繼承以太坊的安全性的.
1900/1/1 0:00:00介紹 從?LSD?火熱至今,有很多優秀文章對?LSD?和?DVT?機制做了講解:LidoFinance?的先發優勢和潛在風險,以及v2將會給?Lido?帶來的質變.
1900/1/1 0:00:00傳統金融做市商業務從19世紀初期開始萌芽,到現在呈現出發展成熟、交易品種多元、業務和收益相對穩定的特點。做市商作為金融市場上重要的參與者,在提供市場流動性和市場效率方面發揮了其獨特的作用.
1900/1/1 0:00:00北京時間3月23日0點,英偉達GTC線上大會發起了一場特別活動,公司創始人兼CEO黃仁勛與OpenAI聯合創始人及首席科學家伊爾亞-蘇茨克維展開了一次“爐邊談話”.
1900/1/1 0:00:00一、過去一周行業發生重要事件 1.?產業 1inch社區拒絕由Solidity.io為其創建NFT聚合市場,但通過另一項類似提案Snapshot投票頁面顯示.
1900/1/1 0:00:00