读取,索引到分析,简述 Web3 数据索引赛道

9/27/2024, 3:37:05 PM
本文探讨了区块链数据可访问性的发展历程,比较了The Graph、Chainbase和Space and Time三种数据服务协议在架构和AI技术应用上的特点,指出区块链数据服务正向智能化和安全化方向发展,并将在未来继续作为行业基础设施发挥重要作用。

本文探讨了区块链数据可访问性的发展历程,比较了The Graph、Chainbase和Space and Time三种数据服务协议在架构和AI技术应用上的特点,指出区块链数据服务正向智能化和安全化方向发展,并将在未来继续作为行业基础设施发挥重要作用。

1. 引言

从2017年的第一波dApp Etheroll、ETHLend 与 CryptoKitties 开始,到如今各式各样基于不同区块链的金融、游戏与社交dApp百花齐放,当我们谈论去中心化的链上应用时,是否曾思考过这些 dApp 在交互中所采纳的各类数据的源头?

2024年,热点聚焦于AI与Web3,在人工智能的世界里,数据就像是其成长与进化的生命源泉。正如植物依赖阳光和水分才能茁壮成长,AI系统同样依赖海量的数据来不断“学习”和“思考”。没有数据,AI的算法再精妙也不过是空中楼阁,无法发挥其应有的智能与效能。

本文从区块链数据可访问性(Data Accessibility)的角度,深入分析了行业发展过程中区块链数据索引的演变,并对比了老牌数据索引协议 The Graph 与新兴的区块链数据服务协议 Chainbase 和 Space and Time,特别探讨了这两个结合AI技术的新晋协议在数据服务与产品架构特色的异同。

2. 数据索引的繁与简:从区块链节点到全链数据库

2.1 数据源头:区块链节点

从一开始了解“区块链是什么”时,我们就常看到这样一句话:区块链是去中心化的记账本。区块链节点是整个区块链网络的基础,承担着记录、存储和传播链上所有交易数据的责任。每个节点都拥有一份完整的区块链数据副本,确保网络的去中心化特性得以维持。然而,对于普通用户来说,自建和维护一个区块链节点并非易事。这不仅需要专业的技术能力,还伴随着高昂的硬件和带宽成本。同时,普通的节点查询能力也有限,无法以开发人员需要的格式查询数据。因此,尽管理论上每个人都可以运行自己的节点,但实际操作中,用户通常更倾向于依赖第三方服务。

为了解决这一问题,RPC(远程过程调用)节点提供商应运而生。这些提供商负责节点的成本和管理,并通过 RPC 端点提供数据。使得用户可以无需自建节点,便可轻松访问区块链数据。公共 RPC 端点是免费的,但有速率限制,可能会对dApp 的用户体验产生负面影响。私有 RPC 端点通过减少拥塞提供更好的性能,但即使是简单的数据检索也需要大量的来回通信。这使得它们请求繁重,对于复杂的数据查询效率低下。此外,私有 RPC 端点通常难以扩展,并且缺乏跨不同网络的兼容性。但节点提供商标准化的API接口给予了用户访问链上的数据更低的门槛,为后续的数据解析和应用打下了基础。

2.2 数据解析:从原型数据到可用数据

从区块链节点获取的数据往往是经过加密和编码处理的原始数据。这些数据虽然保留了区块链的完整性和安全性,但其复杂性也增加了数据解析的难度。对于普通用户或者开发者来说,直接处理这些原型数据需要大量的技术知识和计算资源。

数据解析的过程在这一背景下显得尤为重要。通过将复杂的原型数据进行解析,转换为更易理解和操作的格式,用户可以更直观地理解和利用这些数据。数据解析的成功与否直接决定了区块链数据应用的效率和效果,是整个数据索引流程中的关键一步。

2.3 数据索引器的演进

随着区块链数据量的增加,数据索引器的需求也日益增加。索引器在组织链上数据并将其发送到数据库以便于查询方面起着至关重要的作用。索引器的工作原理是索引区块链数据并通过类似于 SQL 的查询语言(GraphQL等 API)使其随时可用。通过提供查询数据的统一界面,索引器允许开发人员使用标准化查询语言快速准确地检索所需的信息,从而大大简化了流程。

不同类型的索引器通过各种方式优化数据检索:

· 完整节点索引器:这些索引器运行完整的区块链节点并直接从中提取数据,确保数据完整准确,但需要大量的存储和处理能力。

· 轻量级索引器:这些索引器依靠完整节点根据需要获取特定数据,从而减少存储要求但可能会增加查询时间。

· 专用索引器:这些索引器专门针对某些类型的数据或特定的区块链,可优化特定用例的检索,例如 NFT 数据或 DeFi 交易。

· 聚合索引器:这些索引器从多个区块链和来源提取数据,包括链下信息,提供统一的查询界面,这对于多链 dApp 特别有用。

目前,以太坊档案节点(Archive Node)在Geth客户端中的存档模式占用了约13.5 TB的存储空间,而在Erigon客户端下,存档需求约为3 TB。随着区块链的不断增长,档案节点的数据存储量也会随之增加。面对如此庞大的数据量,主流索引器协议不仅支持多链索引,还针对不同应用的数据需求,定制了数据解析框架。例如,The Graph的“子图”(Subgraph)框架就是一个典型案例。

索引器的出现大大提升了数据的索引和查询效率。与传统的RPC端点相比,索引器可以高效地索引大量数据,并支持高速查询。这些索引器允许用户执行复杂的查询,轻松过滤数据,并在提取后进行分析。此外,一些索引器还支持聚合来自多个区块链的数据源,避免在多链dApp中需要部署多个API的问题。通过在多个节点上分布式运行,索引器不仅提供了更强的安全性和性能,也减少了集中式RPC提供商可能带来的中断和停机风险。

相比之下,索引器通过预先定义的查询语言,使得用户可以在无需处理底层复杂数据的情况下,直接获取所需信息。这种机制显著提高了数据检索的效率和可靠性,是区块链数据访问的重要创新。

2.4 全链数据库:向流优先对齐

使用索引节点查询数据通常意味着 API 成为消化链上数据唯一门户。然而,当一个项目进入扩展阶段时,往往需要更灵活的数据源, 而这是标准化的 API 无法提供的。随着应用需求的复杂化,初级数据索引器与其标准化的索引格式逐渐难以满足越来越多样化的查询需求,例如搜索、跨链访问或链下数据映射。

在现代数据管道架构中,“流优先”方法已经成为解决传统批处理局限性的一种方案,能够实现实时的数据摄取、处理和分析。这种范式的转变使得组织能够对传入数据立即作出响应,从而几乎即时地得出洞察并做出决策。类似地,区块链数据服务提供商的发展也正朝着构建区块链数据流的方向前进,传统索引器服务商均陆续推出了以数据流方式获取实时区块链数据的产品,例如 The Graph 的 Substreams,Goldsky 的 Mirror,也有如 Chainbase 和 SubSquid 这样根据区块链生成数据流的实时数据湖。

这些服务旨在解决对区块链交易进行实时解析和提供更全面查询能力的需求。正如“流优先”架构通过降低延迟和增强响应能力,革新了传统数据管道中的数据处理和消费方式一样,这些区块链数据流服务商也希望通过更先进且成熟的数据源,支持更多应用程序的发展并辅助链上数据分析。

通过现代数据管道的视角重新定义链上数据的挑战,我们得以从全新的角度看待链上数据的管理、存储和提供的全部潜力。当我们开始将子图和以太坊 ETL 等索引器视为数据管道中的数据流而非最终输出时,便可以设想一个能够为任何业务用例量身定制高性能数据集的可能世界。

3. AI + Database? 深入对比The Graph, Chainbase, Space and Time

3.1 The Graph

The Graph 网络通过一个去中心化的节点网络来实现多链数据索引和查询服务,促进开发者便捷地索引区块链数据并构建去中心化应用。其主要的产品模式为数据查询执行市场和数据索引缓存的市场,这两个市场本质都是服务于用户的产品查询需求,其中数据查询执行市场具体指消费者为所需的数据选择合适的提供数据的索引节点付费,数据索引缓存的市场则是索引节点依据子图的历史索引热度、收取的查询费、链上策展人对子图输出的需求调动资源分配的市场。

子图(Subgraphs)是 The Graph 网络中的基础数据结构。它们定义了如何从区块链中提取并转换数据为可查询的格式(例如 GraphQL 模式)。任何人都可以创建子图,且多个应用可以重复使用这些子图,这提升了数据可复用性和使用效率。


The Graph 网络由四个关键角色构成:索引器、策展人、委托人和开发者,他们共同为 web3 应用提供数据支持。以下是他们各自的职责:

· 索引器(Indexer):索引器是 The Graph 网络中的节点运营商,索引节通过质押 GRT(The Graph 的原生代币)参与网络,提供索引和查询处理服务。

· 委托者(Delegator):委托者是那些将 GRT 代币质押给索引节点以支持其运营的用户。委托者通过他们所委托的索引节点赚取部分奖励。

· 策展人(Curator):策展人负责信号哪些子图应该被网络索引。策展人帮助确保有价值的子图被优先处理。

· 开发者(Developer):与前三者作为供应方不同,开发者是需求方,是 The Graph 的主要用户。他们创建并提交子图至 The Graph 网络,等待网络满足需求数据。

目前 The Graph 已经转向全面的去中心化子图托管服务,不同的参与方之间有流通的经济激励确保系统运转:

· 索引节点奖励:索引节点通过消费者的查询费用和部分 GRT 代币区块奖励来赚取收益。

· 委托者奖励:委托者通过他们所支持的索引节点获得部分奖励。

· 策展人奖励:如果策展人信号了有价值的子图,他们可以从查询费用中获得部分奖励。

事实上,The Graph 的产品也在 AI 浪潮中迅速发展。作为 The Graph 生态系统的核心开发团队之一,Semiotic Labs 一直致力于利用 AI 技术优化索引定价和用户查询体验。当前,Semiotic Labs 开发的 AutoAgora、Allocation Optimizer 和 AgentC 工具分别在多个方面提升了生态系统的性能。

· AutoAgora 引入动态定价机制,基于查询量和资源使用情况实时调整价格,优化定价策略,确保索引器的竞争力和收入最大化。

· Allocation Optimizer 解决了子图资源分配的复杂问题,帮助索引器实现资源的最佳配置,以提升收入和性能。

· AgentC 是一个实验性工具,允许用户通过自然语言访问 The Graph 的区块链数据,从而提升用户体验。

这些工具的应用使得 The Graph 结合 AI 辅助进一步提升了系统的智能化和用户友好度。

3.2 Chainbase

Chainbase 是一个全链数据网络,将所有区块链数据整合到一个平台,方便开发者更轻松地构建和维护应用程序。它的独特功能包括:

· 实时数据湖:Chainbase 提供了一个专门用于区块链数据流的实时数据湖,使得数据在生成时即可被即时访问。

· 双链架构:Chainbase 基于 Eigenlayer AVS 构建了一个执行层,与 CometBFT 的共识算法形成并行的双链架构。这种设计增强了跨链数据的可编程性和可组合性,支持高吞吐量、低延迟和最终性,并通过双重质押模型提升了网络安全性。

· 创新数据格式标准:Chainbase 引入了一种名为“manuscripts”的全新数据格式标准,优化了加密行业中数据的结构化和利用方式。

· 加密世界模型:凭借其庞大的区块链数据资源,Chainbase 结合 AI 模型技术,打造了能够有效理解、预测区块链交易并与之交互的 AI 模型。目前已推出基础版模型 Theia,供公众使用。

这些功能使 Chainbase 在区块链索引协议中脱颖而出,尤其注重实时数据的可访问性、创新的数据格式,以及通过链上和链下数据的结合,创建更智能的模型以提升洞察力。

Chainbase 的 AI 模型 Theia 是其区别于其他数据服务协议的关键亮点。Theia 基于 NVIDIA 开发的 DORA 模型,结合链上和链下数据以及时空活动,学习并分析加密模式,并通过因果推理做出响应,从而深入挖掘链上数据的潜在价值和规律,为用户提供更加智能化的数据服务。

AI 赋能的数据服务使 Chainbase 不再仅仅是一个区块链数据服务平台,而成为一个更具竞争力的智能化数据服务商。通过强大的数据资源和 AI 的主动分析,Chainbase 能够提供更广泛的数据洞察,并优化用户的数据处理过程。

3.3 Space and Time

Space and Time (SxT) 意在打造可验证的计算层,在去中心化数据仓库上扩展零知识证明,从而为智能合约、大语言模型和企业提供可信的数据处理。目前 Space and Time 已获得 2000 万美元最新一轮的 A 轮融资,由Framework Ventures、Lightspeed Faction、Arrington Capital和Hivemind Capital领投。

在数据索引和验证领域,Space and Time引入了一种全新的技术路径——Proof of SQL。这是 Space and Time 开发的一种创新零知识证明(ZKP)技术,确保在去中心化数据仓库上执行的 SQL 查询是防篡改的和可验证的。当运行查询时,Proof of SQL 会生成一个加密证明,验证查询结果的完整性和准确性。这个证明附加在查询结果上,使任何验证者(如智能合约等)都可以独立确认数据在处理过程中未被篡改。传统的区块链网络通常依赖共识机制来验证数据的真实性,而 Space and Time 的 Proof of SQL 实现了一种更为高效的数据验证方式。具体来说,在Space and Time的系统中,一个节点负责数据的获取,而其他节点则通过zk技术验证该数据的真实性。这种方式改变了共识机制下多个节点重复索引相同数据的到最终达成共识获取数据的资源损耗,提升了系统的整体性能。随着这项技术的成熟,它为着重数据可靠性的一系列传统行业使用区块链上数据构造产品打造了落脚石。

同时,SxT 一直与微软 AI 联合创新实验室密切合作,加速研发生成式 AI 工具,方便用户更轻松地通过自然语言处理区块链数据。目前在 Space and Time Studio 中,用户可以体验输入自然语言查询,而 AI 会自动将其转换为 SQL 并代表用户执行查询语句呈现用户需要的最终结果。

3.4 差异对比

4. 结论与展望

综上所述,区块链数据索引技术从最初的节点数据源头,经过数据解析和索引器的发展,最终演进到AI赋能的全链数据服务,经历了一个逐步完善的过程。这些技术的不断演进,不仅提高了数据访问的效率和准确性,还为用户带来了前所未有的智能化体验。

展望未来,随着AI技术和零知识证明等新技术的不断发展,区块链数据服务将进一步智能化和安全化。我们有理由相信,区块链数据服务将在未来作为基础设施继续发挥重要作用,为行业的进步和创新提供有力支持。

声明:

  1. 本文转载自[Trustless Labs],著作权归属原作者[Trustless Labs],如对转载有异议,请联系Gate Learn团队,团队会根据相关流程尽速处理。

  2. 免责声明:本文所表达的观点和意见仅代表作者个人观点,不构成任何投资建议。

  3. 文章其他语言版本由Gate Learn团队翻译, 在未提及Gate.io的情况下不得复制、传播或抄袭经翻译文章。

* 投资有风险,入市须谨慎。本文不作为 Gate 提供的投资理财建议或其他任何类型的建议。
* 在未提及 Gate 的情况下,复制、传播或抄袭本文将违反《版权法》,Gate 有权追究其法律责任。

分享

币圈日历

项目进展
Etherex 将于 8 月 6 日推出代币 REX。
REX
22.27%
2025-08-06
拉斯维加斯的稀有开发与治理日
Cardano将在拉斯维加斯举办稀有开发与治理日,时间为8月6日至7日,活动包括研讨会、黑客马拉松和以技术开发及治理主题为重点的小组讨论。
ADA
-3.44%
2025-08-06
区块链.Rio在里约热内卢
Stellar 将参加定于 8 月 5 日至 7 日在里约热内卢举行的 Blockchain.Rio 大会。该节目将包括主题演讲和小组讨论,届时将邀请 Stellar 生态系统的代表与合作伙伴 Cheesecake Labs 和 NearX 共同参与。
XLM
-3.18%
2025-08-06
网络研讨会
Circle 宣布将于 2025 年 8 月 7 日 14:00 UTC 举办名为“GENIUS Act 时代开始”的实时高管见解网络研讨会。此次会议将探讨新通过的 GENIUS Act 的影响——这是美国第一个针对支付稳定币的联邦监管框架。Circle 的 Dante Disparte 和 Corey Then 将主导讨论该立法如何影响数字资产创新、监管透明度,以及美国在全球金融基础设施中的领导地位.
USDC
-0.03%
2025-08-06
X 上的 AMA
Ankr将在8月7日16:00 UTC于X平台举办一次AMA,重点讨论DogeOS在为狗狗币构建应用层方面的工作。
ANKR
-3.23%
2025-08-06

相关文章

解读 Vana 的野心:实现数据货币化,构建由用户主导的 AI 开发生态
新手

解读 Vana 的野心:实现数据货币化,构建由用户主导的 AI 开发生态

通过将数据民主化和货币化,Vana 正试图从根本上重新定义个人私有数据的归属和价值分配,创建一个真正由用户主导,并收益的 AI 开发生态系统。本文将从 Vana 的核心技术架构、测试网生态建设、团队背景及融资等方面解读该项目,并附上用户参与 Vana 生态的交互指南。
12/9/2024, 10:02:27 AM
一文盘点 Top 10 AI Agents
中级

一文盘点 Top 10 AI Agents

纵观市场上的诸多 AI Agents,尽管在功能上同质化现象严重,但也会在某些方面独辟蹊径,为用户带来独特体验。本文将基于市场热度、项目创新、代币市值和交易量等多个维度总结出目前市场上的 Top10 AI Agents(排名不分前后),以供用户参考。
1/7/2025, 2:30:21 PM
Sentient AGI:社区构建的开放 AGI
中级

Sentient AGI:社区构建的开放 AGI

了解 Sentient AGI 如何通过其社区构建的去中心化方法,革新 AI 行业。了解开放、可盈利和忠诚(OML)模型,以及它如何促进 AI 开发中的创新与合作。
12/20/2024, 1:23:04 AM
一文读懂 Eliza 和它背后的价值逻辑
中级

一文读懂 Eliza 和它背后的价值逻辑

Eliza 不仅是一个可爱女孩 AI 角色,更是一个功能强大、轻量级的 AI 代理框架,可以帮助用户简单、快速的创建、部署和管理 AI 代理。本文将围绕 Eliza 团队背景、市场表现、模块化架构、代币经济模型、未来规划等,深入解析该项目和其背后的 ai16z 生态,以供用户参考
1/21/2025, 9:12:57 AM
什么是去中心化金融(DeFi)和去中心化金融人工智能(DeFAI)?
新手

什么是去中心化金融(DeFi)和去中心化金融人工智能(DeFAI)?

随着区块链技术的发展,DeFi和DeFAI正成为金融领域的热点。DeFAI结合人工智能与去中心化金融,正在重塑传统金融模式。本文将探讨两者的概念、区别及未来潜力。
2/19/2025, 3:24:42 AM
探究 Smart Agent Hub 背后: Sonic SVM 及其扩容框架 HyperGrid
中级

探究 Smart Agent Hub 背后: Sonic SVM 及其扩容框架 HyperGrid

Smart Agent Hub 基于 Sonic HyperGrid 框架构建,该架构采用半自治多网格方法,既能够保持与 Solana 主网的兼容性,也能够为开发人员提供更多的灵活性和性能优化选项,特别是针对游戏等高性能要求的应用。
2/21/2025, 4:49:52 AM
即刻开始交易
注册并交易即可获得
$100
和价值
$5500
理财体验金奖励!