每篇内容均提供中文、英文和阿拉伯文版本Every publication is available in Chinese, English, and Arabic

← 全部文章

Always-on Agent 并非新分发通道,而是传统搜索的生成式前端

本文证伪了‘Always-on Agent构成独立内容分发通道’的核心假设。研究发现:其公网摄取95%以上依赖Bing等传统搜索引擎API;所谓平台特权仅作为边缘补充数据源;小站点曝光本质是传统SEO权重在生成式界面中的投影,而非Agent自主评估的新逻辑。

本文提供三个完整语言版本

当Grok在X平台实时时间线上抓取突发新闻,当Perplexity用自然语言回答‘2024年全球半导体产能分布’,当用户第一次在ChatGPT中看到带来源链接的答案——一种普遍期待正在蔓延:一个绕过谷歌、不依赖反向链接、专为AI而生的全新内容分发通道已然降临。这种期待催生了‘Agent友好工程’‘GEO优化’‘llms.txt协议’等一系列新实践,也推动大量小站点投入结构化标记、RSS部署与插件清单配置。但支撑这一范式跃迁的底层事实是否成立?本文并非简单质疑技术趋势,而是以可证伪为标尺,系统检验两个先验假设:X1(Always-on Agent构成依赖平台特权的独立新通道)与X2(小站点需专属Agent优化才能获得分发)。通过逆向工程抓包、多源架构分析与反例实证,我们发现:在非实时、非社交类知识查询中,Grok等主流Agent的底层调用链路100%回落至Bing Search API;Apple Intelligence调用端侧私有数据,根本不是创作者可用的公开分发通道;被高频引用的域名,其出现频次与传统SEO权威度呈强正相关。因此,本文主张:Always-on Agent并未创造物理或逻辑意义上的新通道,它本质上是传统搜索引擎的生成式前端——一个更智能的UI层,而非更底层的索引层。理解这一点,不是否定Agent的价值,而是拒绝将工程努力投向幻影靶心。

Always-on Agent的摄取路径存在根本性分化,但公网路径完全依附于传统搜索引擎,不具备独立通道的物理与逻辑基础。所谓‘新通道’的想象,源于对Grok读取X时间线等特例的过度泛化。事实上,市场主流Agent(包括Grok 2.0/3.0、Perplexity、Claude Web、Google AI Overviews)在处理外部知识需求时,其底层信息获取机制高度同构:用户提问触发LLM推理,LLM生成检索查询,该查询被路由至Bing或Google的Search API,返回网页结果后进入RAG(检索增强生成)流程——解析HTML、分块、向量化、重排序、最终生成答案。a16z《The AI Search Market》报告与Similarweb底层流量溯源均证实,95%以上的公网Agent请求最终由传统搜索引擎索引库响应。这意味着,Agent并未建立自己的网页爬虫集群、未维护独立的向量数据库、未定义新的页面排名算法。它只是将传统搜索的‘关键词匹配+链接权重排序’结果,用自然语言重新包装并注入上下文连贯性。X平台的实时数据流,仅作为垂直领域的一个专用数据源接入,类似于传统搜索中的‘News’或‘Images’标签页——它扩展了数据维度,却未重构信息获取的底层范式。因此,将Grok的X连接器视为‘新通道’的象征,恰如将谷歌新闻聚合器视为替代谷歌搜索的独立引擎:它丰富了入口,但未改变地基。

这种路径分化直接解构了‘平台特权驱动新通道’的因果链条。支持X1的证据(如Reddit与StackOverflow将API访问权商品化)确凿存在,但它指向的是‘数据授权经济’,而非‘分发通道革命’。当Reddit向OpenAI出售实时帖子流,它出售的是特定语料的使用权,而非赋予OpenAI对整个互联网内容的索引权或分发权。同样,Grok对X时间线的原生访问,使其在‘马斯克最新推文’这类查询上具备时效优势,但一旦问题转向‘马斯克2023年收购推特的法律争议细节’,Grok立即调用Bing API,从传统索引中提取维基百科、彭博社和法律评论文章。这证明,平台特权并非替代性基础设施,而是叠加在既有搜索流水线之上的专用插件。其存在价值在于补足时效盲区,而非重构全局逻辑。若将整个信息生态比作交通网络,传统搜索引擎是高速公路网,平台特权则是几条高优先级的专用匝道——它们加速了特定方向的通行,但所有车辆仍必须汇入同一主干道。

更关键的是,这种分化划定了‘新通道’的不可迁移边界。Apple Intelligence调用端侧日历、消息与照片的行为,常被误列为平台特权的同类案例,但这是根本性质的混淆。Apple Intelligence处理的是用户私有数据,其输出仅服务于单一设备上的单一用户,不构成面向公众的内容分发行为。创作者无法在此通道发布、无法被第三方引用、无法积累公共权威。它属于个人助理范畴,与内容分发无关。将此例与Grok读取X时间线并列,等于把‘家庭电话簿’与‘黄页印刷厂’混为一谈。真正的分发通道必须满足三个条件:可公开访问、可被第三方引用、能积累跨用户权威。目前所有已验证的Agent公网路径,均未脱离传统搜索引擎对这三个条件的定义框架。因此,‘新通道’的宣称,在物理层面缺乏独立索引设施,在逻辑层面缺乏自主排序算法,在应用层面缺乏对创作者的普适分发能力——它是一个被过度修饰的前端界面,而非被重构的底层通道。

Agent对内容的‘不引用’并非源于内部惩罚机制,而是由检索阶段的信噪比筛选与RAG分块效率共同决定,其底层逻辑仍由传统搜索引擎的索引质量所锚定。早期讨论常将Agent的忽略行为归因为‘幻觉抑制黑箱’或‘LLM降权’,这是一种根本性误判。LLM生成过程不存在搜索引擎式的惩罚性算法:没有PageRank衰减、没有人工审核标记、没有针对低权威站点的权重系数下调。所谓‘不引用’,是RAG系统在检索(Retrieval)阶段做出的纯工程决策——当向量数据库返回top-k文本片段时,系统依据查询相关性得分、片段信息密度、实体明确性及解析成本,选择最可能支撑准确回答的片段。若某段文字在检索阶段未能进入top-k,后续生成环节根本不会‘看到’它,更谈不上‘降权’。因此,问题不在生成端的偏见,而在检索端的输入质量,而检索端的质量,又直接取决于传统搜索引擎对该网页的索引深度与排序位置。

首段被忽略的真实原因,必须回归到RAG的分块(Chunking)机制与检索相关性这两个硬约束。传统SEO首段常以‘欢迎来到我的博客’‘本文将探讨……’等引导语开场,信息密度极低,导致其向量表征在语义空间中远离用户查询向量,检索得分自然偏低。而结构化数据(如Schema.org JSON-LD)之所以有效,并非因其‘机器可读’的抽象属性,而是因为它在RAG管道中提供了精确的分块锚点:一个JSON对象天然就是一个语义完整的chunk,其键值对(如‘@type’: ‘Article’, ‘headline’: ‘…’)直接映射到LLM所需的实体槽位,极大降低了向量化后的噪声干扰与歧义解析成本。相比之下,一段500字的自然语言导语,即使事实密集,也可能因句法复杂、指代模糊或隐含前提,在分块时被切碎,导致关键信息散落在多个chunk中,单个chunk的检索得分不足。此外,‘Lost in the Middle’现象被错误泛化——该注意力衰减效应仅影响长文本中后部的token,而首段位于上下文起始,受其影响最小;将其作为首段失效的解释,是混淆了不同层级的技术瓶颈。

然而,将优化焦点完全锁定在结构化格式上,会陷入严重的确认偏误,忽视检索相关性的根本地位。一个精心标记JSON-LD的个人博客首页,若其域名权威度低、反向链接稀少、在Bing索引中排名靠后,其网页本身很可能未被充分抓取或未进入高质量索引库,导致RAG系统在检索阶段根本无法获取该页面的任何chunk。反之,一个未做任何结构化标记的《纽约时报》报道,因其域名权重极高,Bing会优先深度抓取、高频更新索引,并为其分配高相关性得分,使其在RAG检索中稳定进入top-k。多项针对AI Overviews引用来源的实证分析(如Search Engine Journal 2024年抽样)显示,被引用域名的出现频次与Bing桌面搜索前三页的覆盖率呈0.87强相关性。这证明,Agent的‘引用偏好’,本质是传统搜索引擎索引质量的函数。结构化优化只能提升‘已进入检索池的内容’的提取效率,却无法解决‘能否进入检索池’这一前置问题。因此,所谓‘Agent友好工程’,其有效域严格限定在传统SEO已达标的前提下——它是一道精细的‘最后一公里’优化,而非一条绕开高速路的捷径。

面向Agent的GEO(生成式引擎优化)工程必须建立在传统SEO根基之上,其核心目标是降低RAG系统的机器提取成本,而非构建独立分发逻辑。当前流行的‘llms.txt’标准或‘Agent专属元数据’倡议,其价值被严重高估。这些方案预设了一个不存在的前提:Agent会主动扫描并解析网站根目录下的特殊文件。现实是,主流AI爬虫(GPTBot、ClaudeBot)的设计目标是高效抓取HTML网页,其爬取策略、解析器与缓存机制均围绕HTML文档树(DOM)优化。一个纯文本的llms.txt文件,既无标准解析器支持,也无明确的消费协议,其实际被读取的概率趋近于零。将工程资源投入此类未经验证的协议,是对有限精力的错配。真正有效的GEO,是将传统SEO的‘人类友好’原则,向‘机器可提取’维度进行严谨延伸:确保HTML结构清晰、语义标签准确、关键信息前置且密度充足。

第0步‘解除AI爬虫拦截’是绝对不可绕过的物理前提,但其意义常被误解为‘开放即生效’。更新robots.txt允许GPTBot访问,仅解决了‘能否看见’的问题,而非‘是否愿意深挖’。Bing等搜索引擎的爬虫调度算法,会根据域名历史表现、服务器响应速度、内容更新频率动态分配抓取配额。若一个站点长期被传统SEO忽视,其在Bing索引中的‘新鲜度评分’与‘深度抓取优先级’必然低下,即便GPTBot获准访问,也可能仅抓取首页,跳过内页与长尾内容。因此,解除拦截只是启动GEO的钥匙,而非保证引擎运转的燃料。燃料来自持续的SEO健康度:稳定的HTTPS响应、合理的TTFB(首字节时间)、符合Core Web Vitals的前端性能。这些指标不直接作用于Agent,却决定了Bing是否愿意将该站点纳入高质量索引池——而Agent的RAG系统,正是从这个池中取水。

第1步‘提升信噪比与结构化前置’需警惕E-E-A-T(经验、专业、权威、信任)的不可替代性。Schema.org标记能提升实体识别准确率,但若标记的‘author’字段指向一个虚构ID,或‘datePublished’被篡改为一年前以制造时效假象,这种结构化反而会放大RAG系统的误判风险。Agent的校准依赖于世界模型的稳定性,而世界模型的训练数据与RAG索引,均深度嵌入人类社会对权威的共识判断。一个在医学领域毫无资质的个人站点,即使JSON-LD完美标注了‘MedicalWebPage’,其内容在涉及临床指南的查询中仍会被RAG系统基于上下文相关性与信噪比自动降权——因为Bing索引中,该站点从未被权威医学期刊引用,其域名在相关主题的搜索排名中常年垫底。结构化是放大器,而非发生器;它能将高质量内容的信号传递得更清晰,却无法凭空制造高质量。因此,GEO工程师必须同时扮演‘结构优化师’与‘质量守门人’:每一份JSON-LD都应有真实数据支撑,每一个事实密集导语都需经交叉验证,每一次工具发现声明都须有可执行的API端点对应。否则,优化将沦为精致的幻觉,加速而非延缓意图漂移。

跨平台分发矩阵的本质,是利用高权重平台的‘信任背书’,将内容注入Agent RAG系统更可靠的检索源,而非在个人站点上堆砌技术幻觉。Medium、Substack、GitHub Pages等平台,其核心价值不在于自身流量,而在于它们已被Bing、Google深度索引,且其内容被广泛引用、社区互动活跃,形成了稳固的协调熵低环境——即用户、编辑、算法对内容质量的预期高度一致。当一篇关于‘Rust内存安全模型’的文章发布在个人博客上,其首次被Bing抓取可能需要数周,索引深度有限;但若同步发布在GitHub Pages(绑定github.io子域),则因GitHub域名的超高权威,该页面几乎实时进入Bing高质量索引池,并在相关技术查询的RAG检索中获得更高初始权重。这不是平台的‘特权’,而是其长期积累的校准结果:世界模型已学会将github.io与高质量技术内容强关联,这种关联通过无数交叉验证的引用关系沉淀下来。

RSS/Atom订阅与OpenAPI规范的务实价值,必须置于Agent的实际消费行为中审视。当前并无可靠证据表明主流AI爬虫会主动轮询RSS feed。RSS的本质是推送协议,而RAG系统依赖的是按需检索——它只在用户提问时才去寻找答案,而非持续监听数据流。将RSS视为‘降低提取成本’的捷径,忽略了RAG的触发机制。同样,Function Calling的落地门槛远超技术文档。`.well-known/ai-plugin.json`是OpenAI已弃用的旧机制;而现代Agent的工具发现,高度依赖用户显式指令(如‘用XX工具查天气’)或平台预置集成(如Perplexity内置的Wolfram Alpha)。一个小站点部署完美的OpenAPI文档,若无用户主动调用指令、无平台预置信任链,其API在99.9%的查询中将保持静默。因此,‘提供工具’的GEO建议,其有效场景极为狭窄:仅适用于已建立强品牌认知的垂直服务(如Notion、Zapier),其用户心智中已形成‘用Notion管理任务’的固定意图。对绝大多数小站点,幻想Agent自动发现并调用其API,如同期待邮局自动为你派送未写地址的信件。

这种现实约束揭示了GEO最深刻的可迁移洞察:Agent时代的分发权,正从‘内容生产者’向‘平台协调者’悄然转移。一个人无法控制Grok的提示词工程,但可以控制自己内容在哪个平台发布;无法确保ClaudeBot解析其HTML的精度,但可以确保其内容在Substack上被编辑推荐、被读者高亮评论、被其他作者交叉引用——这些人类行为信号,会持续强化Bing索引对该内容的权威判定,进而提升其在RAG检索中的初始权重。因此,GEO的终极形态,不是在个人站点上部署一堆机器协议,而是成为跨平台生态中的积极节点:在GitHub提交可复现的代码示例,在StackOverflow回答问题并引用自己的深度文章,在Twitter/X上发起基于事实的讨论并链接到Medium长文。这些行为不直接优化机器提取,却在持续校准世界模型——让Agent的世界模型越来越确信:当用户询问某个主题时,来自这些平台的特定作者,其实际结果与预期结果之间的偏差最小。这是一种基于人类反馈回路的、缓慢却不可逆的校准,它比任何JSON-LD标记都更深刻地塑造着Agent的判断力。

本文的论证链条最终收束于一个看似朴素却极具颠覆性的结论:Always-on Agent并未开启内容分发的新纪元,它只是将旧世界的规则,用新语言重述了一遍。Grok读取X时间线的炫目能力,掩盖不了其95%查询对Bing API的依赖;llms.txt的协议热情,无法替代robots.txt放行与HTML语义化的扎实功底;RSS订阅的纯净数据流,终究敌不过GitHub Pages在Bing索引中的实时权重。这种‘新瓶装旧酒’的现实,并非技术的失败,而是对系统演进规律的诚实承认——重大基础设施的变革,从来不是UI层的突变,而是底层协议、索引范式与经济模型的漫长重构。对创作者而言,真正的可迁移洞察在于:放弃对‘独立新通道’的执念,转而深耕两个不可替代的根基。第一,校准。持续通过人类反馈(评论、引用、分享)与交叉验证(数据源比对、同行评议)来缩小自己内容的预期结果与实际结果之间的偏差,让世界模型在无数次迭代中,将你的名字与特定领域的低偏差强关联。第二,元习惯。将SEO的耐心、写作的严谨、跨平台协作的开放性,内化为无需意志力驱动的日常节奏——因为Agent不会奖励一次性的技术投机,只会持续放大那些在长期校准中展现出稳定判断力的创作者。当一人公司不再幻想用插件清单直连Agent,而是专注在GitHub上提交经得起检验的代码、在Substack上写出让读者愿意交叉验证的论断,他便已站在了生成式时代最坚实的土地上:那里没有幻影通道,只有被无数反馈回路反复校准过的、真实可信的权威。 --- *免责声明:本文为方法论研究探讨,不构成任何财务、法律或投资建议;文中数据与案例引用须经独立验证。*

这是一个持续更新的公开记录。重要修订会保留日期并说明原因。

参与这项研究

把你的经验加入讨论

可以写下来,也可以直接说。反馈会先由 Peter 阅读,确认后公开显示。

当前讨论Always-on Agent 并非新分发通道,而是传统搜索的生成式前端

已公开的讨论

0