去中心化存储的演进之路:从理想主义到现实主义

存储曾是区块链行业的热门叙事之一。Filecoin作为上一轮牛市的龙头项目,市值一度超过100亿美元。Arweave以永久存储为卖点,最高市值达35亿美元。然而,随着冷数据存储的可用性受到质疑,永久存储的必要性也被打上了问号,去中心化存储能否真正落地成为一个悬而未决的问题。

Walrus的出现为沉寂已久的存储赛道带来了一丝生机。而最近,Aptos与Jump Crypto联手推出的Shelby项目,则旨在将去中心化存储在热数据领域推向新的高度。那么,去中心化存储是否能卷土重来,为更广泛的应用场景提供解决方案?还是仅仅是又一轮炒作?本文将从Filecoin、Arweave、Walrus和Shelby这四个项目的发展路线出发,分析去中心化存储叙事的变迁历程,探讨去中心化存储普及的可能性。

Filecoin:存储只是表象,挖矿才是本质

Filecoin是最早崛起的加密货币项目之一,其发展方向自然围绕去中心化展开。这是早期加密项目的普遍特征 - 即在各种传统领域中寻找去中心化的意义。Filecoin也不例外,它将存储与去中心化联系起来,从而自然地指出了中心化数据存储服务的弊端:对中心化存储提供商的信任假设。因此,Filecoin的目标就是将中心化存储转变为去中心化存储。然而,为实现去中心化而做出的某些妥协,却成为了后来Arweave或Walrus等项目试图解决的痛点。要理解为什么Filecoin实质上只是一个矿币,就需要了解其底层技术IPFS不适合处理热数据的客观限制。

IPFS:去中心化架构,却受限于传输瓶颈

IPFS(星际文件系统)早在2015年左右就已问世,旨在通过内容寻址来颠覆传统的HTTP协议。IPFS最大的缺点是获取速度极其缓慢。在传统数据服务提供商能达到毫秒级响应的时代,IPFS获取一个文件仍需十几秒,这使得它难以在实际应用中推广,也解释了为何除了少数区块链项目外,它很少被传统行业采用。

IPFS底层的P2P协议主要适用于"冷数据",即不常变动的静态内容,如视频、图片和文档等。然而,在处理热数据方面,比如动态网页、在线游戏或人工智能应用,P2P协议相较于传统的CDN并没有明显优势。

尽管IPFS本身并非区块链,但其采用的有向无环图(DAG)设计理念与许多公链及Web3协议高度契合,使其天生适合作为区块链的底层构建框架。因此即使它并没有实用价值,但作为一个承载区块链叙事的底层框架已经足够,早期的山寨项目只需要一个能运行的框架就可以开启星辰大海。但当Filecoin发展到一定阶段时,IPFS带来的硬伤就开始阻碍其进一步发展。

存储外衣下的矿币逻辑

IPFS的设计初衷是让用户在存储数据的同时,也能作为存储网络的一部分。然而,在缺乏经济激励的情况下,用户很难自愿使用这套系统,更别提成为活跃的存储节点。这意味着,大多数用户只会将文件存储在IPFS上,却不会贡献自己的存储空间,也不会存储他人的文件。正是在这样的背景下,Filecoin应运而生。

Filecoin的代币经济模型中主要有三个角色:用户负责支付费用以存储数据;存储矿工因存储用户数据而获得代币激励;检索矿工则在用户需要时提供数据并获取激励。

这种模型存在潜在的作恶空间。存储矿工可能在提供存储空间后,填充垃圾数据以获取奖励。由于这些垃圾数据不会被检索,即便它们丢失,也不会触发存储矿工的惩罚机制。这使得存储矿工可以删除垃圾数据并重复此过程。Filecoin的复制证明共识只能确保用户数据未被私自删除,却无法阻止矿工填充垃圾数据。

Filecoin的运行在很大程度上依赖矿工对代币经济的持续投入,而非基于终端用户对分布式存储的真实需求。尽管项目仍在不断迭代,但目前阶段,Filecoin的生态构建更符合"矿币逻辑"而非"应用驱动"的存储项目定义。

Arweave:成于长期主义,败于长期主义

如果说Filecoin的设计目标是构建一个可激励、可证明的去中心化"数据云"壳子,那么Arweave则在存储的另一个方向走向极端:为数据提供永久性存储的能力。Arweave并不试图构建一个分布式计算平台,它的整个系统围绕一个核心假设展开 - 重要的数据应该被一次性存储,并永远留存于网络中。这种极端的长期主义,使得Arweave从机制到激励模型、从硬件需求到叙事角度都与Filecoin大相径庭。

Arweave以比特币作为学习对象,试图在以年为计的长周期里不断优化自身的永久存储网络。Arweave不在乎市场营销,也不在乎竞争对手和市场的发展趋势。它只是在迭代网络架构的路上不断前行,即使无人问津也不在意,因为这就是Arweave开发团队的本质:长期主义。得益于长期主义,Arweave在上个牛市受到热烈追捧;也因为长期主义,即使跌入谷底,Arweave还可能撑过几轮牛熊。只是未来的去中心化存储有没有Arweave的一席之地呢?永久存储的存在价值只能通过时间来证明。

Arweave主网从1.5版本开始到最近的2.9版本,尽管已经失去市场讨论热度,但一直在致力于让更广范围的矿工以最小的成本参与网络,并激励矿工最大限度地存储数据,让整个网络的健壮性不断提升。Arweave深知自己不符合市场偏好,因此采取了保守路线,不拥抱矿工团体,生态完全停滞,以最小成本升级主网,在不损害网络安全的前提下,不断降低硬件门槛。

1.5-2.9的升级之路回顾

Arweave 1.5版本暴露出矿工可依赖GPU堆叠而非真实存储来优化出块几率的漏洞。为遏制这一趋势,1.7版本引入RandomX算法,限制使用专业化算力,转而要求通用CPU参与挖矿,从而削弱算力中心化。

在2.0版本,Arweave采用SPoA,将数据证明转为默克尔树结构的简洁路径,并引入格式2交易减少同步负担。这一架构缓解了网络带宽压力,使节点协同能力显著增强。然而,部分矿工仍可通过集中式高速存储池策略回避真实数据持有责任。

为纠正该偏向,2.4推出SPoRA机制,引入全局索引与慢哈希随机访问,使矿工必须真实持有数据块以参与有效出块,从机制上削弱算力堆叠效果。其结果是,矿工开始关注存储访问速度,带动SSD与高速读写设备应用。2.6引入哈希链控制出块节奏,平衡了高性能设备的边际效益,为中小矿工提供公平参与空间。

后续版本进一步强化网络协作能力与存储多样性:2.7增加协作式挖矿与矿池机制,提升小矿工竞争力;2.8推出复合打包机制,允许大容量低速设备灵活参与;2.9则以replica_2_9格式引入新型打包流程,大幅提升效率并降低计算依赖,完成数据导向挖矿模型的闭环。

整体来看,Arweave升级路径清晰呈现其以存储为导向的长期策略:在不断抵抗算力集中趋势的同时,持续降低参与门槛,保证协议长期运行的可能性。

Walrus:拥抱热数据是炒作还是内藏乾坤?

Walrus从设计思路上来说,和Filecoin与Arweave完全不同。Filecoin的出发点是打造一套去中心化可验证的存储系统,代价是冷数据存储;Arweave的出发点是打造一个可以永久存储数据的链上亚历山大图书馆,代价是场景太少;Walrus的出发点是优化存储开销的热数据存储协议。

魔改纠删码:成本创新还是新瓶装旧酒?

在存储成本设计方面,Walrus认为Filecoin与Arweave的存储开销是不合理的,后二者均采用了完全复制架构,其主要优势在于每个节点都持有完整副本,具备较强的容错能力与节点间的独立性。这类架构能保障即使部分节点离线,网络仍具备数据可用性。然而,这也意味着系统需要多副本冗余以维持鲁棒性,进而推高存储成本。尤其在Arweave的设计中,共识机制本身即鼓励节点冗余存储,以增强数据安全性。相较之下,Filecoin在成本控制上更具弹性,但代价是部分低成本存储可能存在更高的数据丢失风险。Walrus试图在两者之间寻找平衡,其机制在控制复制成本的同时,通过结构化冗余方式增强可用性,从而在数据可得性与成本效率之间建立新的折中路径。

Walrus自创的Redstuff是降低节点冗余的关键技术,它来源于Reed-Solomon(RS)编码。RS编码是一种非常传统的纠删码算法,纠删码是一种允许通过添加冗余片段(erasure code)将数据集加倍的技术,可用于重建原始数据。从CD-ROM到卫星通信再到二维码,它在日常生活中被频繁使用。

纠删码允许用户获取一个块,例如1MB大,然后将其"放大"到2MB大,其中额外的1MB是称为纠删码的特殊数据。如果块中的任何字节丢失,用户可以通过代码轻松恢复这些字节。即使多达1MB的块丢失,您也可以恢复整个块。相同的技术可以让计算机读取CD-ROM中的所有数据,即使它已受损。

目前最常用的是RS编码。实现方式是,从k个信息块开始,构造相关的多项式,并在不同的x坐标处对其进行评估,以获得编码块。使用RS纠删码,随机采样丢失大块数据的可能性非常小。

举例说明:将一个文件分成6个数据块和4个校验块,共计10份。只要任意保留其中6份,就能完整恢复原始数据。

优点:容错能力强,被广泛应用于CD/DVD、防故障硬盘阵列(RAID)、以及云存储系统(如Azure Storage、Facebook F4)。

缺点:解码计算复杂,开销较高;不适合频繁变动的数据场景。因此通常用于链下集中化环境中的数据恢复与调度。

在去中心化架构下,Storj和Sia对传统RS编码进行了调整以适应分布式网络的实际需求。Walrus也在此基础上提出了自己的变种 - RedStuff编码算法,以实现更低成本、更灵活的冗余存储机制。

Redstuff的最大特点是什么?通过改进纠删编码算法,Walrus能够快速且稳健地将非结构化数据块编码成较小的分片,这些分片会分布存储在一个存储节点网络中。即使多达三分之二的分片丢失,也可以使用部分分片快速重构原始数据块。这在保持复