買比特幣 買比特幣
Ctrl+D 買比特幣
ads

WOR:Filecoin技術分析:深入理解存儲管理_CTO

Author:

Time:1900/1/1 0:00:00

來源:金色財經Filecoin的存儲單元稱為扇區。對傳統硬盤結構理解的小伙伴,對這個術語應該比較親切,傳統硬盤的最小存儲單元就叫Sector。為了證明Sector的存儲,Filecoin進行了一系列的處理,傳說中的P1/P2/C1/C2。在處理過程中,一個Sector的計算會生成若干文件,最終會生成replica。相關文件是如何組織的?Cache都是由哪些文件組成,分別是多大?本文就從存儲的角度看看這些過程和邏輯。

Filecoin的存儲管理的邏輯主要實現在sector-storage項目中。在深入理解Sector存儲邏輯之前,先講講Worker和Manager。

01相關術語

Worker-處理P1/P2/C1/C2的服務,Worker又分為兩種:localworker和remoteworker。localworker處理本地服務處理,remoteworker支持遠程服務處理

酒店預訂平臺Travala支持FIL支付:據加密友好的酒店預訂平臺Travala官方推特,該平臺已支持使用FIL預訂庫普庫普巴龍的別墅。[2021/7/8 0:36:30]

Manager-管理多個Worker

Scheduler-調度器,調度多個Worker,一個Manager通常有一個Scheduler

Store-Sector存儲系統

02Sector存儲

Sector處理相關的文件存儲在Store中。Store通過sectorstore.json進行配置:

CanSeal表明Store可以用來Seal,CanStore表面Store可以持久存儲Seal的結果(replica)。Weight是權重,在多個Store選擇時使用。ID是Store的UUID編號。

FIL跌破75美元關口 日內跌幅為5%:火幣全球站數據顯示,FIL短線下跌,跌破75美元關口,現報74.9999美元,日內跌幅達到5%,行情波動較大,請做好風險控制。[2021/3/19 18:58:29]

一個Store中存在三種存儲,分別對應三種目錄:unsealed(未封存的文件),cache,sealed。

03Worker&Store

sector-storage項目的README中的這張圖很好的解釋了sectorstorage的各個模塊以及相互的關系:

整幅圖分為上下兩個部分:上部分是Manager,下部分是RemoteWorker。Manager中包括一個LocalWorker。stores.Index是所有Sector存儲的索引。Scheduler,上部分的中間,管理所有的Worker,并且調度Sector相關的存儲。

霍比特交易所將于11月2日12:00上線FILUSDT永續合約:據霍比特HBTC官方公告,霍比特HBTC USDT永續合約板塊將于11月2日12:00(UTC+8)正式上線FILUSDT永續合約,最高支持50倍杠桿。

目前霍比特HBTC USDT永續合約板塊已涵蓋BTC、ETH、DOT等十余個主流幣種,最高支持100倍杠桿,可高效滿足用戶交易需求,提供專業、安全的合約交易服務。詳情點擊原文鏈接。[2020/10/30 11:15:20]

workermanagementAPIs通過/rpc/v0的jsonRPC接口實現remoteworker的管理。通過/remote的HTTPAPI實現存儲的Fetch操作,簡單的說,傳輸文件。specs-storage.Prover/Sealer/Storage是Manager暴露出來的接口,實現Sector的證明,封存和存儲。

HBTC霍比特將于7月6日20:00開啟首期88 U/T搶購Filecoin(IPFS)云算力:據HBTC霍比特(原BHEX)交易所官方稱,為回饋廣大平臺用戶,降低用戶參與Filecoin(IPFS)的挖礦門檻,HBTC霍比特開啟將于7月6日20:00(UTC+8)開啟首期「88 U/T搶購Filecoin(IPFS)云算力」活動,霍比特隊長或者持有100 HBC以上的平臺用戶,均可以1 TB = 88 USDT的遠低于市場價參與搶購,搶購時間截至7月9日12:00(UTC+8)。

HBTC霍比特交易所是100%持幣者共享的交易平臺,獨創全新的10倍PE定價回購模型及霍比特隊長激勵模型,并推出平臺資產透明和交易數據可信機制。HBTC霍比特由火幣、OKEx等56家資本共同投資,主營幣幣、合約、OTC、期權等業務,平臺上主流幣及合約交易擁有優秀流動性和深度。[2020/7/6]

每個連接到Manager的Worker會和Manager同步它的內存/CPU以及顯存的信息。Scheduler在接受到新的請求時,會針對請求(Task)的類型以及資源的需求,從當前Worker中挑選最合適的Worker進行請求的處理。如何選擇Worker,感興趣的小伙伴,可以查看selector的相關邏輯。

BitZ即將上線FIL6,并開放FIL6/USDT期貨交易:BitZ平臺即將上線FIL6(Filecoin 6-month),并將在香港時間 2020年07月02日 15:00開放FIL6/USDT期貨交易。

據了解,星際文件系統IPFS(InterPlanetary File System)是一個面向全球的、點對點的分布式版本文件系統,目標是為了補充(甚至是取代)目前統治互聯網的超文本傳輸協議(HTTP),將所有具有相同文件系統的計算設備連接在一起。原理用基于內容的地址替代基于域名的地址,也就是用戶尋找的不是某個地址而是儲存在某個地方的內容,不需要驗證發送者的身份,而只需要驗證內容的哈希,通過這樣可以讓網頁的速度更快、更安全、更健壯、更持久。

Filecoin是在IPFS其上的激勵層,通過token激勵模式在IPFS上構建了一個去中心化存儲市場。[2020/7/2]

從存儲的角度,重新整理一下,這些關系:

以一個Manager連接兩個Worker為例。Worker只能Seal,但是不能Store。為了更清楚展示Worker之間的數據傳輸,第一個Worker只做Precommit1,第二個Worker做Precommit2和Commit。

04SealTask

理解SealTask,最好對照了Sector的狀態管理一起看。對Sector狀態管理還不熟悉的小伙伴,可以查看之前的文章:

Filecoin-Sector狀態管理邏輯

接下來,看看每個SealTask對應的存儲數據的變化。

AddPiece

如果其中左邊的Worker接收到任務,AddPiece任務會在unsealed目錄中創建原始數據。

PreCommit1

PreCommit1階段,簡稱P1,針對SDR算法,計算若干層數據。如果Sector是32G,需要計算11層。對SDR算法不熟悉的小伙伴,可以看看之前的文章:

經過PreCommit1,生成的數據存儲在Cache中:

PreCommit2

PreCommit2的階段,簡稱P2,生成Replica,計算ColumnHash,并生成Merkle樹(tree_d,tree_c,tree_r_last)。因為P2,不在同一個Worker處理,在進行處理之前,需要先傳輸給合適的Worker,處理的結果同樣存儲在Cache中:

Commit和Finalize

在Commit生成證明后,進入Finalize狀態,Finalize可以理解成“歸檔”。因為在Worker上沒有Store能力,刪除不需要持久化的數據,需要持久化存儲的數據,將傳輸回Manager。

05數據存儲量

以32G的Sector為例,在處理過程中需要存儲的數據如下:

原始數據-32G

原始數據Merkle-32G

P1layer-32*11G

P2-ColumnHash&tree_c-32*2G

P2-Replica&tree_r_last-32G+9.2M*8

總共:512G多一點。

06持久化數據

Sector經過P1/P2/C1/C2處理后,也就是說,經過PoREP處理后,需要持久化存儲Replica的數據和tree_r_last的數據。tree_r_last的數據需要存儲的原因是PoSt要用到。特別注意的是,tree_r_last的數據并不是完整的Merkle樹數據,刪除了其中一些層的數據。

32G的Sector,對應的tree_r_last分成了8棵子樹,每棵子樹是8叉樹,默認存儲的時候,忽略了最低的兩層。也就是,去除最低兩層的存儲量為:

所以每棵子樹的存儲數據為4G*0.00223=9.13M。

也就是說,Sector持久化存儲比例在1.0022左右。

總結:

Filecoin存儲管理的邏輯主要在sector-storage中。Sector的處理任務,可以通過多個Worker完成。每個Worker的存儲目錄結構一致,Sector數據可以在多個Worker之間通過Http服務傳輸。Sector處理過程中,最大的存儲需求量在512G左右。持久化存儲比例為1.0022。

IPFS、Filecoin?交流群

備注ipfs,添加菠蘿v號:q359361480

Tags:TORWORORKCTOTORIIPi Network DeFiPuppies NetworkProtectorate Protocol

SHIB最新價格
QBTC:BTC上漲趨勢是否結束? 關注此重要支撐!_qbt幣最新消息

在前面BTC出現一波大跌之后,BTC再次開啟了橫盤震蕩的走勢,還記得在前面的文章中我跟大家說過,BTC在出現這樣的一波大跌之后,正常情況下來說,BTC的上漲行情基本上就可以確定結束了.

1900/1/1 0:00:00
USD:每日解盤:BTC多頭受阻,上攻乏力_USDT

指標分析:BTC今日多頭乏力行情預計維持回調趨勢,在從小時級別來看布林帶通中下軌運行,MACD開始縮量。KDJ指標有金叉向上運行跡象.

1900/1/1 0:00:00
SDT:模擬盤交易大賽獎勵發放通知_USD

尊敬的BTCC用戶, 感謝大家近期積極參與BTCC模擬盤交易大賽,以下為交易大賽的最終數據以及獎金、實物發放安排,再次感謝大家的支持!截止7月28號23:59:59模擬盤報名用戶1581人.

1900/1/1 0:00:00
NFI:鄭弘文:8.6 BTC早市該如何操作?_INFINITYDOGE幣

鄭弘文:8.6BTC早市該如何操作?當走過了曾經隱忍的年月再回首時,我才發現,曾經覺得難以啟齒的往事,都不過是滄海一粟,生命給予我的,不是那些艱難,而是成長,是學會舉重若輕.

1900/1/1 0:00:00
穩定幣:國際貨幣基金組織副總裁張濤:央行數字貨幣的優勢與挑戰_數字貨幣四大交易所排名

中央銀行數字貨幣能提供更有效的支付系統、增強金融包容性、增強支付系統穩定性、加強貨幣政策有效性和對抗新型數字貨幣的作用.

1900/1/1 0:00:00
SDT:BTC多頭反攻持續發力 日內若能在上方企穩還將進一步沖擊上行_泰達幣官網回收USDT嗎

各位朋友們,你們好,我是阿帆老師(aftb88888)。阿帆本著負責、誠懇、認真的態度用心寫好每一篇分析文章,特點鮮明,不夸張,不含糊,力求能讓大家看懂大的趨勢分析以及小范圍的多空搏殺力度!本內.

1900/1/1 0:00:00
ads