风险提示:理性看待区块链,提高风险意识!
读取、索引到分析简述Web3数据索引赛道
首页 > 业界 > Web3 2024-09-17 15:04
摘要
2024 年,热点聚焦于 AI 与 Web3,在人工智能的世界里,数据就像是其成长与进化的生命源泉 。
币界网报道:

1 引言

从 2017 年的第一波 dApp Etheroll、ETHLend 与 CryptoKitties 开始,到如今各式各样基于不同区块链的金融、游戏与社交 dApp 百花齐放,当我们谈论去中心化的链上应用时,是否曾思考过这些 dApp 在交互中所采纳的各类数据的源头?

2024 年,热点聚焦于 AI 与 Web3,在人工智能的世界里,数据就像是其成长与进化的生命源泉。正如植物依赖阳光和水分才能茁壮成长,AI 系统同样依赖海量的数据来不断「学习」和「思考」。没有数据,AI 的算法再精妙也不过是空中楼阁,无法发挥其应有的智能与效能。

本文从区块链数据可访问性(Data Accessibility)的角度,深入分析了行业发展过程中区块链数据索引的演变,并对比了老牌数据索引协议 The Graph 与新兴的区块链数据服务协议 Chainbase 和 Space and Time,特别探讨了这两个结合 AI 技术的新晋协议在数据服务与产品架构特色的异同。

2 数据索引的繁与简:从区块链节点到全链数据库

2.1 数据源头:区块链节点

从一开始了解「区块链是什么」时,我们就常看到这样一句话:区块链是去中心化的记账本。区块链节点是整个区块链网络的基础,承担着记录、存储和传播链上所有交易数据的责任。每个节点都拥有一份完整的区块链数据副本,确保网络的去中心化特性得以维持。然而,对于普通用户来说,自建和维护一个区块链节点并非易事。这不仅需要专业的技术能力,还伴随着高昂的硬件和带宽成本。同时,普通的节点查询能力也有限,无法以开发人员需要的格式查询数据。因此,尽管理论上每个人都可以运行自己的节点,但实际操作中,用户通常更倾向于依赖第三方服务。

为了解决这一问题,RPC(远程过程调用)节点提供商应运而生。这些提供商负责节点的成本和管理,并通过 RPC 端点提供数据。使得用户可以无需自建节点,便可轻松访问区块链数据。公共 RPC 端点是免费的,但有速率限制,可能会对 dApp 的用户体验产生负面影响。私有 RPC 端点通过减少拥塞提供更好的性能,但即使是简单的数据检索也需要大量的来回通信。这使得它们请求繁重,对于复杂的数据查询效率低下。此外,私有 RPC 端点通常难以扩展,并且缺乏跨不同网络的兼容性。但节点提供商标准化的 API 接口给予了用户访问链上的数据更低的门槛,为后续的数据解析和应用打下了基础。

2.2 数据解析:从原型数据到可用数据

从区块链节点获取的数据往往是经过加密和编码处理的原始数据。这些数据虽然保留了区块链的完整性和安全性,但其复杂性也增加了数据解析的难度。对于普通用户或者开发者来说,直接处理这些原型数据需要大量的技术知识和计算资源。

数据解析的过程在这一背景下显得尤为重要。通过将复杂的原型数据进行解析,转换为更易理解和操作的格式,用户可以更直观地理解和利用这些数据。数据解析的成功与否直接决定了区块链数据应用的效率和效果,是整个数据索引流程中的关键一步。

2.3 数据索引器的演进

随着区块链数据量的增加,数据索引器的需求也日益增加。索引器在组织链上数据并将其发送到数据库以便于查询方面起着至关重要的作用。索引器的工作原理是索引区块链数据并通过类似于 SQL 的查询语言(GraphQL 等 API)使其随时可用。通过提供查询数据的统一界面,索引器允许开发人员使用标准化查询语言快速准确地检索所需的信息,从而大大简化了流程。

不同类型的索引器通过各种方式优化数据检索:

  1. 完整节点索引器:这些索引器运行完整的区块链节点并直接从中提取数据,确保数据完整准确,但需要大量的存储和处理能力。

  2. 轻量级索引器:这些索引器依靠完整节点根据需要获取特定数据,从而减少存储要求但可能会增加查询时间。

  3. 专用索引器:这些索引器专门针对某些类型的数据或特定的区块链,可优化特定用例的检索,例如 NFT 数据或 DeFi 交易。

  4. 聚合索引器:这些索引器从多个区块链和来源提取数据,包括链下信息,提供统一的查询界面,这对于多链 dApp 特别有用。

目前,以太坊档案节点(Archive Node)在 Geth 客户端中的存档模式占用了约 13.5 TB 的存储空间,而在 Erigon 客户端下,存档需求约为 3 TB。随着区块链的不断增长,档案节点的数据存储量也会随之增加。面对如此庞大的数据量,主流索引器协议不仅支持多链索引,还针对不同应用的数据需求,定制了数据解析框架。例如,The Graph 的「子图」(Subgraph)框架就是一个典型案例。

索引器的出现大大提升了数据的索引和查询效率。与传统的 RPC 端点相比,索引器可以高效地索引大量数据,并支持高速查询。这些索引器允许用户执行复杂的查询,轻松过滤数据,并在提取后进行分析。此外,一些索引器还支持聚合来自多个区块链的数据源,避免在多链 dApp 中需要部署多个 API 的问题。通过在多个节点上分布式运行,索引器不仅提供了更强的安全性和性能,也减少了集中式 RPC 提供商可能带来的中断和停机风险。

相比之下,索引器通过预先定义的查询语言,使得用户可以在无需处理底层复杂数据的情况下,直接获取所需信息。这种机制显著提高了数据检索的效率和可靠性,是区块链数据访问的重要创新。

2.4 全链数据库:向流优先对齐

使用索引节点查询数据通常意味着 API 成为消化链上数据唯一门户。然而,当一个项目进入扩展阶段时,往往需要更灵活的数据源, 而这是标准化的 API 无法提供的。随着应用需求的复杂化,初级数据索引器与其标准化的索引格式逐渐难以满足越来越多样化的查询需求,例如搜索、跨链访问或链下数据映射。

读取,索引到分析,简述Web3数据索引赛道

在现代数据管道架构中,「流优先」方法已经成为解决传统批处理局限性的一种方案,能够实现实时的数据摄取、处理和分析。这种范式的转变使得组织能够对传入数据立即作出响应,从而几乎即时地得出洞察并做出决策。类似地,区块链数据服务提供商的发展也正朝着构建区块链数据流的方向前进,传统索引器服务商均陆续推出了以数据流方式获取实时区块链数据的产品,例如 The Graph 的 Substreams,Goldsky 的 Mirror,也有如 Chainbase 和 SubSquid 这样根据区块链生成数据流的实时数据湖。

这些服务旨在解决对区块链交易进行实时解析和提供更全面查询能力的需求。正如「流优先」架构通过降低延迟和增强响应能力,革新了传统数据管道中的数据处理和消费方式一样,这些区块链数据流服务商也希望通过更先进且成熟的数据源,支持更多应用程序的发展并辅助链上数据分析。

通过现代数据管道的视角重新定义链上数据的挑战,我们得以从全新的角度看待链上数据的管理、存储和提供的全部潜力。当我们开始将子图和以太坊 ETL 等索引器视为数据管道中的数据流而非最终输出时,便可以设想一个能够为任何业务用例量身定制高性能数据集的可能世界。

3 AI + Database? 深入对比 The Graph, Chainbase, Space and Time

3.1 The Graph

The Graph 网络通过一个去中心化的节点网络来实现多链数据索引和查询服务,促进开发者便捷地索引区块链数据并构建去中心化应用。其主要的产品模式为数据查询执行市场和数据索引缓存的市场,这两个市场本质都是服务于用户的产品查询需求,其中数据查询执行市场具体指消费者为所需的数据选择合适的提供数据的索引节点付费,数据索引缓存的市场则是索引节点依据子图的历史索引热度、收取的查询费、链上策展人对子图输出的需求调动资源分配的市场。

子图(Subgraphs)是 The Graph 网络中的基础数据结构。它们定义了如何从区块链中提取并转换数据为可查询的格式(例如 GraphQL 模式)。任何人都可以创建子图,且多个应用可以重复使用这些子图,这提升了数据可复用性和使用效率。

读取,索引到分析,简述Web3数据索引赛道

The Graph 产品结构 (Source: The Graph Whitepaper)

The Graph 网络由四个关键角色构成:索引器、策展人、委托人和开发者,他们共同为 web3 应用提供数据支持。以下是他们各自的职责:

  • 索引器(Indexer):索引器是 The Graph 网络中的节点运营商,索引节通过质押 GRT(The Graph 的原生代币)参与网络,提供索引和查询处理服务。

  • 委托者(Delegator):委托者是那些将 GRT 代币质押给索引节点以支持其运营的用户。委托者通过他们所委托的索引节点赚取部分奖励。

  • 策展人(Curator):策展人负责信号哪些子图应该被网络索引。策展人帮助确保有价值的子图被优先处理。

  • 开发者(Developer):与前三者作为供应方不同,开发者是需求方,是 The Graph 的主要用户。他们创建并提交子图至 The Graph 网络,等待网络满足需求数据。

读取,索引到分析,简述Web3数据索引赛道

目前 The Graph 已经转向全面的去中心化子图托管服务,不同的参与方之间有流通的经济激励确保系统运转:

  • 索引节点奖励:索引节点通过消费者的查询费用和部分 GRT 代币区块奖励来赚取收益。

  • 委托者奖励:委托者通过他们所支持的索引节点获得部分奖励。

  • 策展人奖励:如果策展人信号了有价值的子图,他们可以从查询费用中获得部分奖励。

事实上,The Graph 的产品也在 AI 浪潮中迅速发展。作为 The Graph 生态系统的核心开发团队之一,Semiotic Labs 一直致力于利用 AI 技术优化索引定价和用户查询体验。当前,Semiotic Labs 开发的 AutoAgora、Allocation Optimizer 和 AgentC 工具分别在多个方面提升了生态系统的性能。

  • AutoAgora 引入动态定价机制,基于查询量和资源使用情况实时调整价格,优化定价策略,确保索引器的竞争力和收入最大化。

  • Allocation Optimizer 解决了子图资源分配的复杂问题,帮助索引器实现资源的最佳配置,以提升收入和性能。

  • AgentC 是一个实验性工具,允许用户通过自然语言访问 The Graph 的区块链数据,从而提升用户体验。

这些工具的应用使得 The Graph 结合 AI 辅助进一步提升了系统的智能化和用户友好度。

3.2 Chainbase

Chainbase 是一个全链数据网络,将所有区块链数据整合到一个平台,方便开发者更轻松地构建和维护应用程序。它的独特功能包括:

  • 实时数据湖:Chainbase 提供了一个专门用于区块链数据流的实时数据湖,使得数据在生成时即可被即时访问。

  • 双链架构:Chainbase 基于 Eigenlayer AVS 构建了一个执行层,与 CometBFT 的共识算法形成并行的双链架构。这种设计增强了跨链数据的可编程性和可组合性,支持高吞吐量、低延迟和最终性,并通过双重质押模型提升了网络安全性。

  • 创新数据格式标准:Chainbase 引入了一种名为「manuscripts」的全新数据格式标准,优化了加密行业中数据的结构化和利用方式。

  • 加密世界模型:凭借其庞大的区块链数据资源,Chainbase 结合 AI 模型技术,打造了能够有效理解、预测区块链交易并与之交互的 AI 模型。目前已推出基础版模型 Theia,供公众使用。

读取,索引到分析,简述Web3数据索引赛道

这些功能使 Chainbase 在区块链索引协议中脱颖而出,尤其注重实时数据的可访问性、创新的数据格式,以及通过链上和链下数据的结合,创建更智能的模型以提升洞察力。

Chainbase 的 AI 模型 Theia 是其区别于其他数据服务协议的关键亮点。Theia 基于 NVIDIA 开发的 DORA 模型,结合链上和链下数据以及时空活动,学习并分析加密模式,并通过因果推理做出响应,从而深入挖掘链上数据的潜在价值和规律,为用户提供更加智能化的数据服务。

AI 赋能的数据服务使 Chainbase 不再仅仅是一个区块链数据服务平台,而成为一个更具竞争力的智能化数据服务商。通过强大的数据资源和 AI 的主动分析,Chainbase 能够提供更广泛的数据洞察,并优化用户的数据处理过程。

3.3 Space and Time

Space and Time (SxT) 意在打造可验证的计算层,在去中心化数据仓库上扩展零知识证明,从而为智能合约、大语言模型和企业提供可信的数据处理。目前 Space and Time 已获得 2000 万美元最新一轮的 A 轮融资,由 Framework Ventures、Lightspeed Faction、Arrington Capital 和 Hivemind Capital 领投。

在数据索引和验证领域,Space and Time 引入了一种全新的技术路径——Proof of SQL。这是 Space and Time 开发的一种创新零知识证明(ZKP)技术,确保在去中心化数据仓库上执行的 SQL 查询是防篡改的和可验证的。当运行查询时,Proof of SQL 会生成一个加密证明,验证查询结果的完整性和准确性。这个证明附加在查询结果上,使任何验证者(如智能合约等)都可以独立确认数据在处理过程中未被篡改。传统的区块链网络通常依赖共识机制来验证数据的真实性,而 Space and Time 的 Proof of SQL 实现了一种更为高效的数据验证方式。具体来说,在 Space and Time 的系统中,一个节点负责数据的获取,而其他节点则通过 zk 技术验证该数据的真实性。这种方式改变了共识机制下多个节点重复索引相同数据的到最终达成共识获取数据的资源损耗,提升了系统的整体性能。随着这项技术的成熟,它为着重数据可靠性的一系列传统行业使用区块链上数据构造产品打造了落脚石。

读取,索引到分析,简述Web3数据索引赛道

同时,SxT 一直与微软 AI 联合创新实验室密切合作,加速研发生成式 AI 工具,方便用户更轻松地通过自然语言处理区块链数据。目前在 Space and Time Studio 中,用户可以体验输入自然语言查询,而 AI 会自动将其转换为 SQL 并代表用户执行查询语句呈现用户需要的最终结果。

3.4 差异对比

读取,索引到分析,简述Web3数据索引赛道

结论与展望

综上所述,区块链数据索引技术从最初的节点数据源头,经过数据解析和索引器的发展,最终演进到 AI 赋能的全链数据服务,经历了一个逐步完善的过程。这些技术的不断演进,不仅提高了数据访问的效率和准确性,还为用户带来了前所未有的智能化体验。

展望未来,随着 AI 技术和零知识证明等新技术的不断发展,区块链数据服务将进一步智能化和安全化。我们有理由相信,区块链数据服务将在未来作为基础设施继续发挥重要作用,为行业的进步和创新提供有力支持。

发表评论
发表评论
暂无评论
    相关阅读
    币界百科
    币界资讯
    科技巨头谷歌推出了一套强大的生成工具,同时为高级访问增加了高昂的价格标签。
    区块链
    2025-05-22 05:24:54
    一位广受关注的加密策略师认为,比特币(BTC)在突破看涨延续模式后,将引发大规模爆炸。
    比特币
    2025-05-22 04:03:29
    宏观专家卢克·格罗曼 (Luke Gromen) 表示,在政府实施资本管制的情况下,两种飙升的资产可能是投资者保护财富的关键。
    区块链
    2025-05-22 03:30:26
    数据显示,随着比特币价格上涨,美国投资者周一和周二向新的比特币 ETF 投入了 10 亿美元。
    比特币
    2025-05-22 03:18:24
    在2025年的加密货币市场中,多种虚拟币展现出独特魅力与潜力。比特币作为先驱,被视为“数字黄金”,在机构投资者涌入、技术改进下有望继续增长;以太坊是智能合约之王,其生态繁荣,ETH 2.0升级将提升服务能力。此外,瑞波币专注跨境支付,波卡构建多链生态。还有BNB、SOL、AVAX等也各有优势,值得投资者DYOR,把握市场机遇。
    矿业百科
    2025-03-07 18:34:32
    近期加密货币市场利好消息不断。比如Cardano网络即将进行重大更新,即Chang硬分叉,标志着Voltaire时代的开始,还将实施CIP - 1694链上治理机制,增强其功能。Cosmos在比特币上涨和以太坊ETF推出的背景下,因其专注区块链互操作性,成为有潜力的山寨币。Hedera与贝莱德等合作,展示了其网络潜力。而Polygon计划将MATIC代币更名为POL,这不仅是品牌重塑,更是改善网络功能和支持基础设施的战略举措。这些利好或为加密货币市场带来新的发展趋势,投资者需DYOR,密切关注市场动态。
    交易所百科
    2025-03-07 13:51:35
    在建筑行业迈向数字化的浪潮中,BIM交易正逐渐成为焦点。BIM作为一种集成设计、施工和管理流程的数字化工具,将建筑项目的所有信息集成在三维模型中。它具有诸多优势,在设计阶段可实现三维可视化设计、冲突检测和协同设计,减少误解与变更,避免返工;施工阶段能进行施工模拟、精确计量材料,控制成本。通过BIM交易,各参与方实现信息共享和协同作业,大大提高项目的效率和质量。对于建筑从业者而言,深入了解BIM交易,能更好地应对建筑项目中的挑战,推动行业向更高效、精确与可持续的方向发展。
    区块链百科
    2025-03-07 20:28:39
    在当今加密货币的热潮中,MVL平台和BCA交易所备受关注。MVL平台有着独特的业务模式,其代币也在市场上有着一定的流通表现。而BCA交易所则以其特有的交易机制吸引着众多投资者。本文将深入剖析这两者的特点、优势与潜在风险,为你全面解读加密货币领域的这两大新势力,助你在投资决策中DYOR。
    区块链百科
    2025-03-07 10:53:23
    在加密货币交易的浪潮中,SUSHI交易所备受关注。其官网是了解该平台的重要窗口。SushiSwap作为基于以太坊的去中心化交易所,官网提供了平台功能、特点、优势等详细信息,还有白皮书等有用资源。在这里,用户能体验无信任第三方交易,持有寿司代币享受特殊福利,通过流动性挖矿获取收益。官网的这些特性,让它成为众多投资者探索加密交易的热门之选,你准备好开启交易之旅了吗?
    数字货币百科
    2025-03-07 17:52:42
    2025年初,Solana(SOL)还以295美元的价格惊艳加密市场,谁料仅仅过了一个月,到2月17日,其价格就暴跌至181美元,近40%的跌幅令人震惊。这场暴跌不只是数字的变动,更引发了人们对SOL未来的担忧。FTX破产清算带来的冲击首当其冲,3月1日,FTX破产拍卖的1120万枚SOL即将解锁,价值高达20.6亿美元,占SOL总流通量的2.29%。此外,币安通过做市商抛售大量SOL,增加了下行压力,2月15日以来还有4.9437亿美元资金流出。价格调整引发的大范围清算也加速了下跌,仅过去24小时内就发
    币种知识
    2025-03-03 19:13:06
    近期,莱特币的表现引发了市场的广泛关注。其交易量飙升至360亿美元,周交易量达到2023年5月以来的最高水平,日均交易量超50亿美元。随着交易量增加,用户参与活动也更多。莱特币曾是顶级加密货币,目前是第21大加密货币。近期其价格也展现出强劲的反弹迹象,过去数周涨幅超20%。此轮上涨背后,是市场供需、政策法规、比特币走势、技术创新等多重因素综合作用。不过,莱特币要跻身前十仍具挑战,投资者需密切关注其后续动态。
    矿业知识
    2025-03-03 16:04:15
    在当今数字化的时代,加密货币交易平台如雨后春笋般涌现,TOKEm交易平台和MAJOR交易平台便是其中备受关注的两个。TOKEm交易平台以其独特的交易机制和用户体验吸引了众多投资者的目光,而MAJOR交易平台则凭借其强大的技术实力和丰富的产品线在市场中占据一席之地。这两个平台各有其优势与特点,无论是在交易流程、安全保障还是用户服务方面,都有着不同的表现。对于投资者来说,深入了解这两个平台的差异,有助于做出更明智的投资决策。本文将对TOKEm交易平台和MAJOR交易平台进行全面且深入的对比分析,为您呈现这两个
    币种知识
    2025-03-04 11:08:56
    在当今数字化浪潮中,HAI平台与GENE交易平台正逐渐崭露头角。HAI平台凭借其独特的AI技术,在人工智能领域展现出强大的实力,无论是AI作画、AI视频还是AI写作等场景,都能在短时间内一键部署,为用户带来全新的AIGC体验。而GENE交易平台则依托Gene Finance(GENE币),作为分发给更广泛社区的治理令牌,用户可通过它参与协议决策过程,如对提案投票等。该平台还整合了不可替代代币(NFT),为Metaverse社区提供出色的去中心化金融产品。这两个平台在各自领域各放异彩,它们的发展与创新将为加
    币种知识
    2025-03-04 09:58:46
    在当今蓬勃发展的加密货币领域,QTUM合约与JOE交易所正逐渐崭露头角。QTUM是一个基于比特币UTXO模型、权益证明机制和支持EVM智能合约的区块链项目,它创新地实现了比特币与以太坊两大生态的融合。币安期货推出的QTUM合约,为投资者带来更多交易机会,其智能合约功能和去中心化特点保证了交易的安全、可信与公平。而JOE币作为新兴加密货币,虽上线交易所数量相对较少,但已在Huobi、Binance等知名平台上线。随着知名度的提高,未来有望在更多交易所亮相。了解QTUM合约与JOE交易所,对把握加密货币市场的
    钱包知识
    2025-03-04 11:29:01
    推荐专栏
    热门币种
    更多
    币种
    美元价格
    24H涨跌幅
    BTC比特币
    109,922.03 USDT
    ¥791,779.37
    +2.71%
    ETH以太坊
    2,552.86 USDT
    ¥18,388.50
    +1.16%
    USDT泰达币
    1.00000 USDT
    ¥7.20
    -0.03%
    XRP瑞波币
    2.39 USDT
    ¥17.25
    +1.85%
    BNB币安币
    673.92 USDT
    ¥4,854.31
    +3.64%
    SOL
    173.95 USDT
    ¥1,252.97
    +3.26%
    USDC
    0.99950 USDT
    ¥7.20
    0%
    DOGE狗狗币
    0.23540 USDT
    ¥1.70
    +4.34%
    ADA艾达币
    0.77190 USDT
    ¥5.56
    +3.51%
    TRX波场币
    0.26760 USDT
    ¥1.93
    -0.52%
    热搜币种
    更多
    币种
    美元价格
    24H涨跌幅
    比特币
    109922.03 USDT
    ¥800,232.38
    +2.71%
    柚子
    0.7568 USDT
    ¥5.51
    -4.2%
    Curve
    0.7465 USDT
    ¥5.43
    +5.35%
    Solana
    173.95 USDT
    ¥1,266.36
    +3.26%
    Filecoin
    2.958 USDT
    ¥21.53
    +3.4%
    Horizen
    9.8131 USDT
    ¥71.44
    +7.1%
    Uniswap
    6.2181 USDT
    ¥45.27
    +2.96%
    狗狗币
    0.2354 USDT
    ¥1.71
    +4.34%
    以太坊
    2552.86 USDT
    ¥18,584.82
    +1.16%
    瑞波币
    2.3949 USDT
    ¥17.43
    +1.85%
    波场
    0.2676 USDT
    ¥1.95
    -0.52%
    火币积分
    0.2127 USDT
    ¥1.55
    -2.57%
    最新快讯
    更多
    WLFI宣布购入部分B代币以支持BUILDon团队
    2025-05-22 08:16:12
    SolanaMobile公布Seeker设备无信任架构和原生代币SKR
    2025-05-22 08:10:24
    JamesWynn继续加仓比特币多单,Hyperliquid高胜率巨鲸已被多次清算
    2025-05-22 08:09:09
    美参议员Lummis:五分之四的美国人愿意将美国的黄金储备转换为比特币
    2025-05-22 08:07:11
    今日为「比特币披萨日」14周年,当事人购买披萨所用比特币现已价值近11亿美元
    2025-05-22 08:05:18
    VanEck将于6月推出Avalanche生态基金
    2025-05-22 08:01:54
    昨日灰度BTC净流入2210万美元,BITB净流入2050万美元
    2025-05-22 07:58:45