核心事件:机器人流量已反超人类,互联网商业模式面临重构

今年 June,CDN 与网络安全公司 Cloudflare 发现,自动化流量占比已超过 50%。CEO Matthew Prince 在 The Verge《Decoder》播客访谈中表示,AI 公司持续爬取全网内容训练模型,同时 AI 代理也开始在网页上执行实际任务,模拟人类操作。
关键事实如下:
- 当前状态: 机器人流量占比已超过 50%,且持续上升
- 长期趋势: 自动化流量正快速增加,而人类上网时长预计保持稳定
- 公司动作: Cloudflare 已允许网站所有者对 AI 代理设置访问策略(阻止/允许/付费访问)
- 内部调整: 公司年初裁员逾千人(20% 员工),CEO 在《华尔街日报》发文讨论 AI 替代决策
什么在驱动这场"流量革命"?
Cloudflare 网络覆盖全球 350 余个城市数千个数据中心,每天处理海量用户与机器访问。根据其观测数据,自动化流量增长主要来自三股力量:
- AI 训练数据抓取:各大 AI 公司持续爬取全网内容以训练大模型
- AI 代理服务爆发:如 ChatGPT、Perplexity 等 AI 助手也开始在网页上执行实际任务,模拟人类操作
- 企业级自动化部署:客服机器人、内容审核、市场监控等工具在后台高频访问站点
Matthew Prince 强调:"机器人不会点击广告,也不会被品牌视觉设计等传统吸引方式打动",这意味着传统基于广告的盈利模式——过去 30 年互联网增长的核心引擎——正迅速失效。
他指出,Google 通过收购 DoubleClick、推出 Google Analytics 等,构建了第一代互联网的广告生态;如今,如果流量增量无法产生收入,支撑庞大网络所需的带宽、服务器与算力投入将难以为继。
面对"无广告用户"的生态困局

Cloudflare 提出的解决方案围绕"可控访问与价值交换"展开:
- 可编程访问控制:网站所有者可选择完全阻止 AI 代理、允许免费访问,或仅允许付费请求(如按访问次数计费)
- 支付结构设计:探索为高质量、结构性内容设置 tokenized 许可——即机器访问需支付微额费用
- 基础设施优先:对 Cloudflare 自身而言,其边缘计算与 API 网关产品成为托底自动化流量的主要基础设施
Matthew 承认,当前尚无明确商业模式能承接这一规模的流量红利。但值得注意的是,他并不认为人类流量会下降:“我们预测人类上网时长将基本稳定,增长全部来自机器侧”。换言之,互联网正从"人类创作、人类消费"转向"人类创建、机器分销与再利用"的双轨模式。
落地建议:谁该行动,谁该观望?
- 内容创作者/ publishers:若依赖广告收入且内容易被爬取,应尽快评估访问控制策略;对独家、垂直、有训练价值的数据可考虑付费接入模式
- 开发者与 SaaS 工具商:如构建面向 AI 的接口或代理层,需预估流量 surge 带来的 API 套装成本与 Cloudflare 网络成本;建议与边缘计算平台深度集成以控制延迟与带宽支出
- 中小创业公司:若核心业务高度依赖搜索引擎导流,应同步构建"AI 可访问但有壁垒"的内容结构(如结构化数据微调、API-first 内容分发),避免被 AI 时代彻底边缘化
写在最后
互联网的"第一次创业浪潮"建立在广告之上,而"第二代 web"或将真正回归早期理想——赋能内容生产者,让每一次传输、抓取与利用都能产生可追溯的价值回流。Cloudflare 的选择不一定是终点,但它标志着 web 商业逻辑开始从"免费→流量→广告"转向"可控→授权→付费"的范式迁移。
