假設您是 web3 新手,開始建立 web3 分析團隊,或者剛剛對 web3 數據感興趣。無論哪種方式,您都應該已經大致熟悉了 API、數據庫、轉換和模型在 web2 中的工作方式。
對于這本就職指南,我將盡量保持簡潔,并突出我對以下三個重要的想法:
1. 思考:為什么開放數據管道會重塑數據工作的完成方式
2. 工具:web3 數據堆棧中工具的概述,以及如何利用它們
3. 團隊:在 web3 數據團隊中應具備的基本注意事項和技能
關于數據思維
讓我們首先總結一下在 web2 中如何構建、查詢和訪問數據(即訪問 Twitter 的 API)。
對于簡化的數據管道,我們有四個步驟:
事件 API 觸發(發送了一些推文)
攝取到數據庫(連接到現有用戶模型/狀態更改)
特定產品/分析用例的數據轉換(隨時間增加回復/參與度指標)
模型訓練和部署(用于管理您的 Twitter 提要)
數據有時是開源的唯一步驟是在轉換完成之后。Kaggle(1000 個數據科學/特征工程競賽)和Hugging Face(26,000 個一流 NLP 模型)等社區使用暴露數據的一部分來幫助企業構建更好的模型。有一些特定領域的案例,例如在前三個步驟中打開數據的開放街道地圖,但這些仍然有寫權限的限制。
Web3媒體和NFT平臺Pixel Vault宣布推出基于ERC-721靈魂綁定NFT的BattlePlan玩家卡:金色財經報道,Web3媒體和NFT平臺、PUNKS Comic和MetaHero Universe發行商Pixel Vault在社交媒體宣布推出基于ERC-721靈魂綁定NFT的BattlePlan玩家卡,旨在實現游戲配置文件和錢包功能的獨特融合,并改變玩家與其游戲平臺的互動方式,用戶可以根據個人資料圖片和皮膚選擇定制的靈魂綁定ERC-721 NFT,并且使用玩家卡來存儲評級、BattlePoints 和不可轉讓的積分。[2023/7/17 10:59:23]
并不是說 web2 根本沒有任何開源。與大多數其他工程角色一樣,web2 數據擁有大量用于構建其管道的開源工具( dbt、apache、TensorFlow)。我們仍然在 web3 中使用所有這些工具。總之,他們的工具是開放的,但他們的數據是封閉的。
Web3 也將數據開源——這意味著它不再只是數據科學家在開源中工作,分析工程師和數據工程師也是如此!每個人都參與到一個更連續的工作流程中,而不是一個黑盒數據循環。
Celsius前CEO曾試圖為新項目Celsius Web Services籌集10億美元:金色財經報道,Celsius前首席執行官Alex Mashinsky試圖為一個名為Celsius Web Services的項目籌集10億美元。CWS將提供Celsius產品的通用版本,包括那些專注于收益和托管的產品。投標文件顯示,Celsius分別在5月和6月與華爾街銀行高盛和阿布扎比支持的基金ADQ就一個名為Celsius Web Services的項目進行了接觸。
Mashinsky試圖推出一系列新產品,并將Celsius從其核心業務加密借貸中剝離出來,但其速度不足以避免借貸業務使整個公司沉沒。Celsius在去年6月12日凍結了提款,并在一個月后申請了破產保護,對10多萬名用戶的欠款超過47億美元。[2023/5/12 15:00:14]
工作的形式已經從 web2 數據大壩轉變為 web3 數據的河流、三角洲和海洋。同樣重要的是要注意,這個新周期會同時影響生態系統中的所有產品/協議。
讓我們看一個 web3 分析師如何協同工作的示例。有幾十個DEX使用不同的交換機制和費用,允許你將通證A換成通證B。如果這些是典型的交易所,比如納斯達克,每個交易所都會以 10k 或一些 API 報告自己的數據,并且然后像 capIQ 之類的其他服務會將所有交換數據放在一起,并收取費用讓您訪問他們的 API。也許偶爾,他們會舉辦一場創新比賽,這樣他們就可以在未來擁有額外的數據/圖表功能來收費。
RSS3上線Open Web搜索引擎hoot.it:金色財經報道,Open Web信息分發協議RSS3進入下一階段Stage3,推出首個面向Open Web的搜索引擎hoot.it。hoot.it索引內容包含區塊鏈網絡以及Open Web中的其他網絡,用戶可以進行一站式的搜索,內容包括不限于鏈上交易信息、NFT、DApp、Web3社交協議等相關數據和內容;
同時,hoot.it上線了基于GPT技術的HootGPT,是首個基于Open Web數據訓練AI語言模型以輔助查詢的應用,可以為用戶提供獨特、自然和互動的搜索體驗。RSS3 Network 及 API 優化升級,以閃電般的快速響應為 RSS3 生態系統中的所有應用程序提供支持,RSS3 API已支持所有主流的EVM兼容網絡以及IPFS和Arweave、Nostr、Farcaster等生態,RSS3也將繼續擴大Open Web上的信息覆蓋面,提升解析水平,將逐步推出公開節點。RSS3的產品定位從Web3全面轉向Open Web,努力構建代碼開放、協議開放、信息開放的下一代網絡。[2023/2/22 12:22:14]
使用 web3 交換,我們有這個數據流:
dex.trades是Dune 上的一張表(由許多社區分析工程師隨時間整理而成),其中匯總了所有 DEX 交換數據 - 因此您可以非常輕松地搜索所有交易所中單個代幣的交換量之類的東西。
公鏈Sui推出Web3游戲預覽Sui Capys:11月4日消息,據官方公告,公鏈Sui在測試網上推出Web3游戲預覽Sui Capys,玩家可以購買、交易、繁殖和裝飾Capys。Capys利用Sui面向對象的特性允許玩家可以交易和購買帽子、自行車和圍巾在內的配飾,并根據父母屬性生成新的Capys。作為Sui上的可編程對象,Capys展示了Sui上的資產所有權、可轉移性以及動態字段等功能。開發者使用Sui Move語言開發Sui Capys需要定義基本模塊、創建類型并構建注冊表進行記錄和驗證。官方強調Sui Capys是一個專門用于激勵Sui開發者社區的演示,并不是空投。[2022/11/4 12:16:55]
一位數據分析師出現并使用一堆社區開源查詢創建了一個儀表板,現在我們對整個 DEX 行業有了一個公開的了解。即使所有的查詢看起來都是一個人寫的,你可以打賭,在某個不和諧的地方有大量的討論可以準確地拼湊起來。
一位 DAO 科學家查看儀表板并開始在他們自己的查詢中分割數據,查看特定的配對,例如穩定通證。他們研究用戶行為和商業模式,并開始建立假設。
由于科學家可以看到哪個 DEX 占據了更大的交易量份額,因此他們將提出一個新模型并提出對治理參數的更改,以在鏈上進行投票和執行(s/o Alex Kroeger的提案這里的例子)。
以太坊核心開發者:Web 3和加密不需要馬斯克:12月4日消息,以太坊核心開發者eric.eth在sassal.eth轉推馬斯克推文下表示,目前市場的大多數人都超過了Elon Musk,Web 3和加密DeFi不需要Elon。[2021/12/4 12:50:36]
之后,我們可以隨時查看儀表板,了解該提案如何創造出更具競爭力的產品。
未來,如果有另一個 DEX 出來(或升級到新版本),這個過程會提升產品的功能。有人會創建插入查詢來更新此表。這將反過來反映在所有儀表板和模型中(無需任何人返回并手動修復/更改任何內容)。任何其他分析師/科學家都可以在 Alex 已經完成的工作的基礎上再接再厲。
由于共享生態系統,討論、協作和學習發生在更緊密的反饋循環中。這有時會變得非常壓倒性,而且我認識的分析師基本上都在輪換數據時表現得倦怠。然而,只要我們中的一個人不斷推動數據前進(即有人創建了插入 DEX 查詢),那么其他所有人都會受益。
它也不一定總是復雜的抽象視圖,有時它只是實用功能,例如可以輕松搜索 ENS 反向解析器或改進工具,例如使用單個 CLI 命令自動生成大部分 graphQL 映射!所有這些都可以被每個人重用,并且可以適應某些產品前端或您自己的個人交易模型中的 API 使用。
雖然這里解鎖的可能性是驚人的,但是程序還沒有那么順利地運行。與數據工程相比,數據分析師/科學方面的生態系統仍然非常不成熟。我認為這有幾個原因:
數據工程多年來一直是 web3 的核心焦點,從客戶端 RPC API 改進到基本的 SQL/graphQL 聚合。在 theGraph 和 Dune 等產品上的工作確實體現了他們為此付出的努力。
對于分析師來說,理解 web3 獨特的跨協議關系表是一個艱難的過程。例如,分析師可以理解如何僅分析 Uniswap,但隨后難以將聚合器、其他 DEX 和不同的代幣類型添加到組合中。最重要的是,完成所有這些工作的工具直到去年才真正意義上出現。
數據科學家基本上習慣于進入原始數據轉儲并獨自完成所有工作(建立自己的工作風格)。我認為他們不習慣在項目早期與分析師和工程師如此密切和公開地合作。這需要一段時間才能適應這樣的環境。
除了學習合作之外,web3 數據社區還在學習如何在這個新的數據堆棧中工作。您不再需要控制基礎架構或從 excel 中慢慢構建到數據湖或數據倉庫 - 只要您的產品上線,那么您的數據就會無處不在。您的團隊基本上進入了數據基礎架構的精華部分。
關于數據工具
這就是你們大多數人來這里的目的:?
這些工具并不全面——它們只是我發現自己或其他人在以太坊生態系統中一直使用和引用的工具(其中一些還涵蓋了其他鏈)。
“去中心化”標簽意味著有一個基礎設施網絡或指導框架來阻止單方面發生的變化。我喜歡將其視為解耦基礎設施與云基礎設施,但這需要有自己的文章。
讓我們來看看您何時需要使用每個圖層/類別:
交互+數據源:這主要用于前端、錢包和數據攝取到較低層。客戶端:雖然以太坊的底層實現是相同的(使用 Geth 作為規范的 repo),但每個客戶端都有不同的額外功能。例如,Erigon 針對數據存儲/同步進行了大量優化,Quorum 支持啟動隱私鏈。
節點即服務:您無法選擇它們運行的客戶端,但使用這些服務將為您省去自己維護節點和 API 正常運行時間的麻煩。節點有很多復雜性,具體取決于您要捕獲多少數據(輕→完整→存檔)。
查詢 + 數據映射:該層中的數據要么在合約中作為 URI 引用,要么來自使用合約 ABI將交易數據從字節映射到表模式。合約 ABI 告訴我們合約中包含哪些功能和事件,否則我們只能看到已部署的字節碼(如果沒有此 ABI,您將無法對合約交易進行逆向工程/解碼)。交易數據:這些是最常用的,主要用于儀表板和報告。theGraph 和 Flipside API 也用于前端。有些表是合約的 1:1 映射,有些表允許在模式中進行額外的轉換。
元數據“協議”:這些不是真正的數據產品,但存在用于存儲 DID 或文件存儲。大多數 NFT 將使用其中的一個或多個,我認為今年我們將開始越來越多地使用這些數據源來增強我們的查詢功能。
專業提供商:其中一些是非常強大的數據流產品,用于內存池數據的Blocknative和用于鏈上交易數據的 Parsec。其他人聚合鏈上和鏈下數據,例如 DAO 治理或財務數據。
高頻數據提供者:您無法查詢/轉換他們的數據,但他們已經為您完成了所有繁重的工作。“企業”服務:如果您是 VC、調查員或記者,您會經常使用這些服務。您可以使用Nansen 的錢包分析器或Chainanalysis 的 KYT深入了解錢包和錢包關系。或者使用 Tolken 終端在大量項目/鏈上獲得漂亮的開箱即用圖表。
增強的那些API:這些產品將許多查詢捆綁到一個中,例如 ERC20 代幣的所有代幣余額或為給定地址提取合約 ABI。
數據團隊
不言而喻,您希望在這些社區中尋找可以雇用到您團隊的人。讓我們進一步分解重要的 web3 數據技能和經驗,以便您真正知道自己在搜索什么。如果您想被錄用,請將其視為您追求的技能和經驗!
分析師至少應該是使用Etherscan的高手,并且知道如何閱讀 Dune 儀表板。這可能需要 1 個月的時間才能慢慢升級,如果您真的預訂并狂歡學習,則需要 2 周。
您還應該考慮更多背景信息,特別是關于時間分配和技能可轉移性的內容。
在 web3 中,數據分析師大約 30-40% 的時間將用于跟上整個生態系統中的其他分析師和協議。請確保您沒有窒息他們,否則,它將成為對每個人的長期損害。與更大的數據社區一起學習、貢獻和構建是絕對必要的。
關于可轉移性:技能和領域在這個領域都是高度可轉移的。如果我使用不同的協議,那么加速時間可能會很短,因為鏈上數據的表模式都是相同的。如果有的話,我可能在加入之前就已經使用過該協議的數據了!
了解如何使用這些工具并不重要——每個分析師都應該或多或少地能夠編寫 SQL 或創建儀表板。這一切都是關于知道如何為社區做出貢獻和與社區合作。
移動支付網消息:5月19日,重慶數字人民幣試點新聞發布會召開,向外界透露了重慶數字人民幣試點情況.
1900/1/1 0:00:00當前人們正在花數百萬美元購買虛擬地產。金融出版公司Curzio Research宣布,他們最近在一個還未流行的虛擬地產項目TCG World中購買了一大片虛擬土地.
1900/1/1 0:00:00親愛的金色財經用戶: 由金色財經孵化的「金色數藏」數藏平臺,將于2022年5月17日-27日開展「520,來金色Pick你的數藏女神」活動,參與即有機會獲得神秘數字藏品.
1900/1/1 0:00:00與PoW相比,PoS是一個更好的區塊鏈安全機制,原因有三個。你可以便宜地租用GPU,所以攻擊網絡的成本只是租用足夠的GPU來超過現有的礦工成本.
1900/1/1 0:00:001.DeFi代幣總市值:545.40億美元 DeFi總市值 數據來源:coingecko2.過去24小時去中心化交易所的交易量:138.
1900/1/1 0:00:00因非法獲利4.5萬元而被判入獄1年半,除被沒收違法所得外還被罰款1萬元,其背后的詐騙團伙則拿著“洗白”的USDT(泰達幣)逍遙法外,這就是李原(化名)26歲的人生.
1900/1/1 0:00:00