Filecoin的存儲單元稱為扇區。對傳統硬盤結構理解的小伙伴,對這個術語應該比較親切,傳統硬盤的最小存儲單元就叫Sector。為了證明Sector的存儲,Filecoin進行了一系列的處理,傳說中的P1/P2/C1/C2。在處理過程中,一個Sector的計算會生成若干文件,最終會生成replica。相關文件是如何組織的?Cache都是由哪些文件組成,分別是多大?本文就從存儲的角度看看這些過程和邏輯。
Filecoin的存儲管理的邏輯主要實現在sector-storage項目中。在深入理解Sector存儲邏輯之前,先講講Worker和Manager。
01?相關術語
Worker-處理P1/P2/C1/C2的服務,Worker又分為兩種:localworker和remoteworker。localworker處理本地服務處理,remoteworker支持遠程服務處理
FIL跌破190美元關口 日內跌幅為17.73%:火幣全球站數據顯示,FIL短線下跌,跌破190美元關口,現報189.5美元,日內跌幅達到17.73%,行情波動較大,請做好風險控制。[2021/4/2 19:38:43]
Manager-管理多個Worker
Scheduler-調度器,調度多個Worker,一個Manager通常有一個Scheduler
Store-Sector存儲系統
02?Sector存儲
Sector處理相關的文件存儲在Store中。Store通過sectorstore.json進行配置:
CanSeal表明Store可以用來Seal,CanStore表面Store可以持久存儲Seal的結果(replica)。Weight是權重,在多個Store選擇時使用。ID是Store的UUID編號。
Filecoin網絡目前總質押量約為4688萬枚FIL:據IPFS100.com報道,Filfox瀏覽器數據顯示,Filecoin網絡當前區塊高度為571328,全網有效算力為3.138EiB,總質押量約為4688萬枚FIL,活躍礦工數為1548個,每區塊獎勵為24.0072FIL,近24小時產出量為339038FIL,24小時平均挖礦收益為0.1039FIL/TiB,目前FIL流通量為46887086FIL。
目前有效算力排名前三的分別為:F01248(智合云zh)以75.72暫居第一,F02770(時空云&靈動)以72.63PiB位居第二,F0127595(時空云)以61.16PiB位居第三。[2021/3/11 18:35:50]
一個Store中存在三種存儲,分別對應三種目錄:unsealed(未封存的文件),cache,sealed。
火幣全球站已新增ETP產品FIL*3和FIL*(-3):據官方公告,火幣全球站現已新增ETP (Exchange Trade Product) 產品:FIL*3和FIL*(-3)。[2020/12/11 14:55:12]
03?Worker&Store
sector-storage項目的README中的這張圖很好的解釋了sectorstorage的各個模塊以及相互的關系:
整幅圖分為上下兩個部分:上部分是Manager,下部分是RemoteWorker。Manager中包括一個LocalWorker。stores.Index是所有Sector存儲的索引。Scheduler,上部分的中間,管理所有的Worker,并且調度Sector相關的存儲。
workermanagementAPIs通過/rpc/v0的jsonRPC接口實現remoteworker的管理。通過/remote的HTTPAPI實現存儲的Fetch操作,簡單的說,傳輸文件。specs-storage.Prover/Sealer/Storage是Manager暴露出來的接口,實現Sector的證明,封存和存儲。
鏈上云已支持FIL/USDT交易:據官方消息,鏈上ChainUP旗下的鏈上云平臺已支持FIL/USDT交易,并開放充值業務,旗下300多家交易所客戶可在后臺配置,一鍵開通。鏈上云將持續關注優質項目,為交易所客戶提供全方位的服務和運營工具。[2020/10/16]
每個連接到Manager的Worker會和Manager同步它的內存/CPU以及顯存的信息。Scheduler在接受到新的請求時,會針對請求(Task)的類型以及資源的需求,從當前Worker中挑選最合適的Worker進行請求的處理。如何選擇Worker,感興趣的小伙伴,可以查看selector的相關邏輯。
從存儲的角度,重新整理一下,這些關系:
以一個Manager連接兩個Worker為例。Worker只能Seal,但是不能Store。為了更清楚展示Worker之間的數據傳輸,第一個Worker只做Precommit1,第二個Worker做Precommit2和Commit。
GOKO平臺即將上線FIL(Filecoin):據官方公告,GOKO即將上線FIL (Filecoin)。在Filecoin主網正式開啟后(主網區塊高度達到148,888時,預計時間為2020年10月15日開放充幣業務,FIL/USDT的交易將在充幣開放后擇時開放,具體時間將以公告形式提前通知。
星際文件系統IPFS(InterPlanetary File System)是一個面向全球的、點對點的分布式版本文件系統,目標是為了補充(甚至是取代)目前統治互聯網的超文本傳輸協議(HTTP),將所有具有相同文件系統的計算設備連接在一起。
GOKO是一個社區化治理的加密資產交易平臺,公平、公正、安全可信賴,是一家社區友好型的交易所。目前GOKO交易所已獲得節點資本戰略投資。[2020/10/13]
04?SealTask
理解SealTask,最好對照了Sector的狀態管理一起看。對Sector狀態管理還不熟悉的小伙伴,可以查看之前的文章:
Filecoin-Sector狀態管理邏輯
接下來,看看每個SealTask對應的存儲數據的變化。
AddPiece
如果其中左邊的Worker接收到任務,AddPiece任務會在unsealed目錄中創建原始數據。
PreCommit1
PreCommit1階段,簡稱P1,針對SDR算法,計算若干層數據。如果Sector是32G,需要計算11層。對SDR算法不熟悉的小伙伴,可以看看之前的文章:
經過PreCommit1,生成的數據存儲在Cache中:
PreCommit2
PreCommit2的階段,簡稱P2,生成Replica,計算ColumnHash,并生成Merkle樹(tree_d,tree_c,tree_r_last)。因為P2,不在同一個Worker處理,在進行處理之前,需要先傳輸給合適的Worker,處理的結果同樣存儲在Cache中:
Commit和Finalize
在Commit生成證明后,進入Finalize狀態,Finalize可以理解成“歸檔”。因為在Worker上沒有Store能力,刪除不需要持久化的數據,需要持久化存儲的數據,將傳輸回Manager。
05?數據存儲量
以32G的Sector為例,在處理過程中需要存儲的數據如下:
原始數據-32G
原始數據Merkle-32G
P1layer-32*11G
P2-ColumnHash?&tree_c-32*2G
P2-Replica&tree_r_last-32G9.2M*8
總共:512G多一點。
06?持久化數據
Sector經過P1/P2/C1/C2處理后,也就是說,經過PoREP處理后,需要持久化存儲Replica的數據和tree_r_last的數據。tree_r_last的數據需要存儲的原因是PoSt要用到。特別注意的是,tree_r_last的數據并不是完整的Merkle樹數據,刪除了其中一些層的數據。
32G的Sector,對應的tree_r_last分成了8棵子樹,每棵子樹是8叉樹,默認存儲的時候,忽略了最低的兩層。也就是,去除最低兩層的存儲量為:
所以每棵子樹的存儲數據為4G*0.00223=9.13M。
也就是說,Sector持久化存儲比例在1.0022左右。
總結:
Filecoin存儲管理的邏輯主要在sector-storage中。Sector的處理任務,可以通過多個Worker完成。每個Worker的存儲目錄結構一致,Sector數據可以在多個Worker之間通過Http服務傳輸。Sector處理過程中,最大的存儲需求量在512G左右。持久化存儲比例為1.0022。
Tags:TORWORORKFILRestoreCHEQD NetworkOpium Networkfil幣價格今日行情最新
親愛的幣贏CoinW用戶:由于ETC節點維護,幣贏CoinW將暫時關閉ETC的充值與提現服務。具體開啟時間請關注官方公告。感謝您的支持.
1900/1/1 0:00:00尊敬的用戶: 為慶祝社區合伙人3.0支持WPT進行鎖倉認購:https://wbfex.zendesk.
1900/1/1 0:00:00賽福托管(SafeCustody)是時代區塊鏈旗下的產品,旨在提供專業的區塊鏈錢包管理和數字資產存儲管理,是一個提供數字資產綜合性管理解決方法的平臺.
1900/1/1 0:00:00導語:該文章來自BHP社區“我與BHP的故事”主題有獎征文活動投稿,作者從一位投機者轉變為價值信仰者的經歷相信也是部分社區成員的真實寫照,讓我們一起看看他與BHP之間的故事吧.
1900/1/1 0:00:00大家好,我是小賈言幣,每日為大家帶來幣圈實時分析,關注小賈不迷路!!!今日小賈為大家帶來的資訊:截至8月6日,BTC活躍地址數為97.14萬,較昨日增加18.17%;鏈上交易數為35.37萬.
1900/1/1 0:00:00親愛的BKEXer:? 因DMCH主網升級,BKEXGlobal現決定將DMCH交易時間延遲至2020年8月6日20:30.
1900/1/1 0:00:00