核心观点:在最新一期红杉资本官方播客Training Data中,红杉资本合伙人Sonia Huang与Andrew Reed对话了前Twitter CEO Parag Agrawal。离开Twitter后,Parag创立了Parallel AI。在这次深度对话中,Parag给出了一个清晰的判断:现在的互联网搜索引擎与商业规则,都是围绕人类的习惯与注意力搭建的;而当上网的主体逐渐变成AI Agent时,从底层的抓取、索引方式,到上层的内容利益分配,整套基础设施都将被重新改写。

01. 传统搜索为什么不适用于AI Agent

要理解为什么AI时代需要新的搜索引擎,得先回到搜索的本质。

传统搜索引擎解决的是“千亿级网页与千亿级查询”的匹配问题。为了把全网海量信息浓缩成5到10个网页链接,Google和Bing建立了庞大的抓取、索引与排序系统。但Parag Agrawal指出,这套系统在设计之初就包含了一个根本性的妥协:它太贴合人类的惰性了。

人类是非常懒惰的搜索者。我们在搜索框里打出两个带错别字的词,依赖自动补全,期望搜索引擎去“猜”我们的心思。面对一份加载耗时几秒、长达几百页的官方SEC财报 PDF,普通用户很难有耐心逐页翻阅。

这种习惯催生了大量针对SEO优化的营销网页,也就是Parag所说的“Pre-AI human slop”。这类网页加载飞快,把关键摘要放在页面顶部,虽然信息质量未必最高,但因为迎合了搜索引擎对加载速度和易读性的偏好,拿下了极高的排名。传统搜索引擎为了照顾人类的阅读体验,在很大程度上牺牲了信息的权威性与深度。

但AI Agent的交互逻辑完全不同。Agent可以一次性提交长达数百字、约束条件极度明确的复杂指令,不需要搜索引擎去猜测意图。它们不会因为文件篇幅长或加载慢而失去耐心。它们也不需要带广告的搜索结果页,不需要点击链接,而是直接从最权威的数据源中提取相关段落,精准压入自身的上下文窗口中。

基于这一差异,Parag提出了一个大胆的观点:在面向Agent的搜索体系中,人类的点击数据不仅不是资产,反而是一个bug。未来的Agent搜索,必须彻底脱离对人类点击反馈的依赖,完全基于Agent在实际执行任务过程中的推理评估进行迭代。

02. 如何打破巨头的索引壁垒

抓取并建立全网索引是一项耗资巨大的基建工程,以往只有科技巨头能够承担。面对Google和Bing建立了数十年的索引壁垒,一家初创团队凭什么介入?

Parallel采取了一种极其反直觉的策略:在创业初期放弃预先全量抓取索引,转而采用“收到查询后再实时抓取”的动态Agent架构。

Parallel - Web Infrastructure for AI Agents

这种设计初期会牺牲一点响应速度,但换来了更高的资金效率和信息新鲜度。在深度研究这类复杂场景里,用户或上层Agent可以接受几分钟的异步检索,系统因此有足够时间实时抓取特定深度的数据源。

这一架构率先在企业级复杂工作流中完成了商业落地。Parallel的早期客户集中在保险核保、理赔审核、销售数据增强以及金融模型构建等领域。这些业务过去依赖大量人工进行隔夜的数据清洗与整理,而Parallel的实时搜索架构不仅替代了这批重复性劳动,更为团队积累了真实的评测数据,使其清楚地了解Agent在实际业务中究竟需要什么样的搜索服务。

随着技术迭代,Parallel将这套机制梳理为多层递进的极速检索流程:当Agent输入查询后,系统先通过模型进行语义扩展,随后路由至全量库、实时库或结构化图谱;在提取潜在文档后,通过多层重排模型逐层筛选,最终提取出大约1000个Token的高信号密度内容直接交付。

为了满足高频实时交互的需求,Parallel推出了Turbo产品,将整套流程的响应时间从3秒缩短到了200毫秒,帮助Agent在减少超过一半Token消耗的同时提升了准确率。Turbo的价格为每1000次请求1美元,比前沿模型的默认搜索便宜最多14倍。

目前,Parallel已与Google Cloud达成合作,成为GCP上企业级Agent API的底层搜索与Grounding服务提供商。针对大模型厂商是否会自行垄断Agent搜索的疑问,Parag解释道,大模型厂商为了预训练所做的网页抓取追求的是Token产出效率,会主动跳过很多加载缓慢、结构复杂的网页;而Agent搜索必须具备完备性,不能遗漏关键的数据源。Parallel与基础大模型之间是互补关系,模型能力越强,搜索层所能释放的价值就越大。

03. AI如何按实际贡献为内容付费

广告媒流

除了技术架构的重构,Parallel还试图解决互联网内容生态的商业模式危机。

传统互联网的免费繁荣建立在展示广告之上。广告本质上是一种分层定价机制:搜索引擎在多数日常查询上亏损,靠少数高商业价值查询(如金融、法律)的广告收入弥补全网检索成本。但这一切的前提是人类注意力的转化。当浏览网页的主体变成不看广告、不点链接的Agent,商业闭环就断了。

内容提供者因此陷入两难:不阻挡Agent,内容被免费提取,无法转化为订阅用户;屏蔽Agent,又会失去在AI时代的曝光。大模型厂商与少数头部媒体签署的固定费用授权协议也有明显缺陷:推理用量逐年暴增,固定金额意味着内容方分到的收入占比持续萎缩,且这种谈判模式覆盖不了广大的中长尾创作者。

为解决内容归因与激励问题,Parallel在公司早期就引入了博弈论中的夏普利值(Shapley Value)模型。

夏普利值的核心是:在一个多方共同贡献产生收益的系统里,按每个参与者的边际贡献来分配收益。实际操作中,Parallel通过算力模拟剔除某个数据源,测量Agent输出质量的下降幅度,或评估补足该损失需要额外消耗多少推理算力,以此逆推该内容对最终结果的实际价值。

在这套框架下,网络内容变现可以做到四件事。

  • 分层定价:不再统一费率,高质量、高权重的独家内容获得更高单位报酬。
  • 场景化定价:同一份数据,用于数亿美元并购分析时的支付回报,高于日常闲聊。
  • 长尾可扩展:机制由算法驱动,能公平覆盖海量中长尾创作者,而非只服务少数头部出版商。
  • 激励自然对齐:通过透明的分成机制,让内容所有者愿意主动向 Agent 开放高质量数据。

精确计算夏普利值在算力上极其昂贵。Parallel的做法是利用自身的质量评估基础设施,训练出能高精度预测夏普利值的代用模型。Parag 预计,随着 Agent 检索量快速增长,这套数学归因模型将在12到24个月内为内容提供者带来可观且可持续的商业收益。

04. 从主动检索走向被动推送

在访谈的尾声,双方探讨了Agent获取网络信息的长期演进路线。

第一阶段(当前):人类主动下达指令,Agent像使用常规工具一样进行单次联网搜索。这是目前绝大多数AI应用最主要的运行方式。

第二阶段(正在发生):能够长时运行的多智能体(Multi-agent)系统逐渐落地,例如AI科研助手、投资组合实时监控等。这类复杂任务需要消耗大量算力和数据,带动搜索调取量呈几何级增长。

第三阶段(未来2年以上):网络信息的交互逻辑将发生彻底倒转。Agent无需一遍遍重复抓取或刷新网页,而是由Parallel的底层基础设施建立“事件监听机制”。一旦出现竞争对手提交新财报、卫星图像更新、客户评价发布,甚至是另一个Agent完成了某项计算,系统就会实时通知订阅该事件的Agent。

结语

Parag Agrawal与红杉资本的这场对话,揭示了AI迈入深水区后的真实壁垒。当网络流量的主导者逐渐地从人类转向智能体,技术架构必须摆脱对人类行为的路径依赖,并在经济机制上为内容创作者建立可持续的利益回报。只有这样,全新的Agentic Web才能真正建立起繁荣的生态。

对话|Cursor人才负责人Adam Ward:摒弃销售漏斗式招聘,如何锁定全球前1%的顶尖人才

前沿|Kastle获2400万美元A轮融资:不换底层基础设施,AI Agent如何接入银行核心系统