本文永久链接 – https://tonybai.com/2026/03/12/building-for-trillions-of-agents

大家好，我是Tony Bai。

如果你看一眼2025年 Web 流量统计报告，你会发现一个令人脊背发凉的残酷真相：人类，在互联网上已经正式成为少数派，机器流量已历史性突破 50%。

硅谷创业教父 Paul Graham 曾有一句被无数创业者和产品经理奉为圭臬的名言：“Make something people want.”（做人们想要的东西）。

但在今天，如果你还在死磕这句话，你可能会死得很惨。在这个 AI Agent（智能体）全面爆发的前夜，这句箴言必须被冷酷地改写为：
“Make something Agents want.”（做智能体想要的东西）。

因为未来的超级软件，根本不需要界面。

你精心打磨的 UI，在 AI 眼里一文不值

过去这几年，我们的开发者和 SaaS 创业者都在疯狂地“卷”前端：我们花了无数个熬红双眼的夜晚，去优化页面的停留时长，去测试按钮的颜色，去设计无比华丽的交互动画和留客弹窗。

我们试图把最核心的功能藏在复杂的 Web 界面后，以此作为产品的“护城河”。

但现实狠狠地给了我们一记耳光。

因为在未来，那些高度硬核的知识工作者（首当其冲是程序员），将不再亲自去挑选工具、注册账号、点击鼠标。他们只会向自己的 Claude Code 或 OpenClaw 下达指令：“帮我把这个数据库清洗一遍。”

Agent 会成为那个真正“做决定”和“使用产品”的人。

YCombinator 的合伙人 Jared Friedman 曾一针见血地指出过现存系统最致命的 Bug：目前大多数标榜牛逼的开发者工具，依然不允许你通过纯 API 来注册账号和获取 Key。

如果你的系统不能让 Agent 瞬间自动注册并调用，那你的服务在硅基生命眼里就等于“死”了。Agent 根本没有耐心去看你的华丽网页，更不会去看你的网络研讨会（Webinar）。它只会默默绕过你，去寻找那些 API 最清晰、对机器最友好的竞品。

旧时代的 PLG（Product-Led Growth，产品驱动增长）漏斗彻底失效，我们正在进入一个由“API 文档决定生死”的时代。

旧商业模式崩塌，万亿 Agent 的新基建

当我深入研究目前最前沿的 Agent 生态时，我发现，不仅仅是前端 UI 失效了，连我们习以为常的“按人头收费（Seat-based）”的商业模式也在崩塌。

试想一下，如果一个企业从 50 个普通人类员工，变成了“50 个人类 + 5000 个全天候运行的 Agent”，按人头收费的逻辑怎么算？

Agent 的工作负载是爆发式的，它可能在一秒钟内发起 50 次并发请求，瞬间击穿你原本为“人类手速”设计的限流（Rate Limit）网关。

不要再去应用层卷那些同质化的 AI 壳子了。真正聪明的开发者，已经开始为万亿规模的 Agent 造轮子。以下是四大正在爆发的基础设施赛道：

1. Agent 的沙盒计算层：未来的服务器农场不是为了托管人类的网站，而是为了托管 Agent 的无状态执行沙盒（如 E2B）。
2. Agent 的身份与钱包：Agent 需要在互联网上爬取付费资源，Stripe 级别的微支付（Microtransactions）将迎来真正的机器间交易刚需。
3. 机器间的服务发现（Service Discovery）：当人类退居幕后，Agent 之间如何知道对方能提供什么服务？我们需要机器与机器之间的“握手协议”。
4. 信任与越权治理：当 Agent 带着你的授权去操作公司核心 CRM 时，如何防止它“幻觉越权”？

Agent-First 时代的生存铁律

Perplexity CEO Aravind Srinivas 说过一句极具穿透力的话：“把电脑给电脑，让它们为人类创造与人类使用电脑时相同的输出，是一个更好的主意。”

在这个不可逆转的软件重心转移中，普通开发者该如何避免被淘汰？请牢记以下三条铁律：

• 铁律一：API 就是你的最终 UI。 如果你的核心功能没有暴露在 API、CLI（命令行）或 MCP (Model Context Protocol) 接口中，它就不存在。
• 铁律二：文档是写给机器看的。 你的 –help 文档和 API Schema 必须极度结构化，让 Agent 的大语言模型能做到“一秒读懂、零次试错”。
• 铁律三：放弃闭环壁垒，拥抱极致的可组合性（Composability）。 打造干净的、无状态的、可被机器随时读取和拼接的工作流。

丢掉鼠标，成为“造规则”的人

未来的十年，是复杂性从“人机交互”向“机器间协议”下沉的十年。

作为开发者，现在最紧迫的任务，就是明天上班打开你的项目，问自己一个问题：“如果不用网页，一个纯粹的 AI Agent 能在 5 秒内调通我的核心链路吗？”

去构建那些没有界面的、纯粹的、让 Agent 感到舒适的系统吧，它们才是下一个时代的王者。

参考资料：

• https://x.com/levie/status/2030714592238956960
• https://www.imperva.com/resources/resource-library/reports/2025-bad-bot-report

今日互动吐槽：

你觉得目前市面上，哪个常用产品/SaaS 的 API 设计得最反人类、最让 AI（和你自己）抓狂？

欢迎在评论区疯狂吐槽！

认知跃迁：如何抢跑 Agent 原生时代？

理念再宏大，如果不落实到代码上，宏大叙事就只是别人的狂欢。

很多老读者问我：“Tony 老师，道理我都懂，但我该如何从零开始，改造现有系统，设计一套自描述的 MCP 接口？又该如何让 Claude Code 帮我跑通复杂的自动化工作流？”

光靠看研报是学不会造轮子的。与其焦虑自己会被 AI 淘汰，不如抢先一步，成为驾驭 AI 的那个人。

在我的全新极客时间专栏 《AI原生开发工作流实战》 中，我将摒弃一切虚无缥缈的理论，直接从代码层面，手把手教你构建面向 Agent 的 API 和工具链。

• 告别低效内耗，重塑开发范式：带你用 AI 抹平代码复杂度的壁垒，专注于业务与架构的本质。
• 驾驭 AI Agent 工作流：手把手教你实现从需求分析、MCP 接口设计到代码生成的自动化流水线。
• 实现职场跃升：从苦哈哈的“写死代码的搬砖人”，进化为用规则驱动万物互联的“工作流指挥家”。

别再执着于网页上按钮的颜色了。扫描下方二维码，加入专栏，我们一起去构建万亿硅基生命的世界基石。

原「Gopher部落」已重装升级为「Go & AI 精进营」知识星球，快来加入星球，开启你的技术跃迁之旅吧！

我们致力于打造一个高品质的 Go 语言深度学习 与 AI 应用探索 平台。在这里，你将获得：

• 体系化 Go 核心进阶内容: 深入「Go原理课」、「Go进阶课」、「Go避坑课」等独家深度专栏，夯实你的 Go 内功。
• 前沿 Go+AI 实战赋能: 紧跟时代步伐，学习「Go+AI应用实战」、「Agent开发实战课」、「Agentic软件工程课」、「Claude Code开发工作流实战课」、「OpenClaw实战分享」等，掌握 AI 时代新技能。
• 星主 Tony Bai 亲自答疑: 遇到难题？星主第一时间为你深度解析，扫清学习障碍。
• 高活跃 Gopher 交流圈: 与众多优秀 Gopher 分享心得、讨论技术，碰撞思想火花。
• 独家资源与内容首发: 技术文章、课程更新、精选资源，第一时间触达。

衷心希望「Go & AI 精进营」能成为你学习、进步、交流的港湾。让我们在此相聚，享受技术精进的快乐！欢迎你的加入！

商务合作方式：撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求，请扫描下方公众号二维码，与我私信联系。

本文永久链接 – https://tonybai.com/2026/03/12/go-concurrency-scalability-issues-on-128-core-cpu

大家好，我是Tony Bai。

设想一个极其真实的职场场景：

你负责的 Go 核心微服务最近流量暴涨，CPU 频频告警。为了解决这个问题，老板大笔一挥，批了几十万预算，采购了最新一代的 128 核 256 线程的怪兽级服务器（比如 AMD EPYC 或 Intel 至强）。

你满心欢喜地把程序部署上去，期待着 QPS 翻倍、延迟减半的奇迹。

结果盯着监控面板，你傻眼了：核心数翻了 4 倍，但程序的吞吐量根本没有线性增长，甚至 P99 延迟还比以前在 32 核机器上时变高了！

老板拍着你的肩膀问：“这服务器是不是买亏了？”你满头大汗，不知道问题出在哪。

别慌，这可能真不是你代码写得烂。在 2026 年的今天，随着芯片制程逐渐逼近物理极限（2nm），单核性能基本停滞，硬件厂商只能疯狂“堆核心”。这就导致了一个在过去只有超算中心才会关心的底层概念，如同幽灵般降临到了每一个普通开发者头上——NUMA（非一致性内存访问）架构。

今天，我们就来拆解一下：为什么 Go 语言引以为傲的并发模型，在超多核时代开始“水土不服”？而 Go 核心团队，又打算在今年如何打赢这场史诗级的性能翻身仗？

Go 调度器的“间歇性失忆症”

在小几十核（比如 32 核及以内）的普通机器上，Go 的 GMP 调度模型（Goroutine – Processor – Machine）堪称完美。调度器会尽量让一个 Goroutine (G) 在同一个 Processor (P) 和同一个系统线程 (M) 上运行，以保证 CPU 缓存（L1/L2 Cache）的高命中率。

但在 128 核/256线程(Go眼中 NumCPU()返回 256)的庞然大物上，这种亲和性（Affinity）被极其残酷地撕裂了。

一个值得怀疑的原因是 GC（垃圾回收）带来的 STW（Stop The World）。

每次 GC 开始和结束时，世界都会短暂停止，所有的 P 都会被冻结。当几毫秒后世界重新启动时，Go 的调度器会得一种“失忆症”：它会把“复活”的 P 分配给任意空闲的 M。

这就好比你原本在工位 A 办公，桌上摆满了你需要的资料（CPU Cache 中的热数据）。突然老板喊停，重新洗牌，把你随机分配到了工位 B。你需要重新跨过大半个办公室去搬资料（导致极其严重的 Cache Miss）。

此外，GC 标记工作在 STW 期间启动，并以高优先级调度，这使得它们很可能在之前运行 G 的 P 上运行，即使有空闲的 P。这会迫使 G 迁移到另一个 P 上。

如果你打开 Go 的 Execution Trace，你会看到一幅灾难般的景象：短短 10 毫秒内，你的 Goroutine 就像弹珠一样，在 128 个 CPU 核心之间来回横跳(下面是一个开发者在真实环境采集到的数据, G11到G19在多个P上切换)。微秒级的跳跃积累起来，就成了吞噬性能的黑洞。

NUMA 架构下的双倍“跨省流量”惩罚

如果说缓存失效是“切肤之痛”，那么NUMA 架构带来的内存惩罚，就是真正的“断骨之痛”。

在 128 核这种级别的 CPU 里，物理内存是被划分成多个“大区（NUMA Node，简称Node，每个Node通常有16到64个CPU核）”的。

• CPU 访问自己大区的内存，极快。
• CPU 跨大区去访问别人的内存（Remote Node），延迟会瞬间飙升 2 倍甚至更多！

但问题是，目前的 Go 语言是“非 NUMA 感知”的！

当你的代码执行 new(struct) 申请内存时，Go 的全局自由列表（Global Free List）完全可能把一块物理位置位于 Node 1 的内存，分配给正在 Node 0 上运行的 CPU。结果就是，你之后的每一次内存读写，都在交高昂的“跨省长途费”。

更要命的是 Go 引以为傲的“工作窃取（Work-Stealing）”算法。

当某个 CPU 核心闲下来时，它会去偷别的核心队列里的 Goroutine 来执行。这在以前是神来之笔，但在 NUMA 时代却成了毒药：

它把任务偷了过来，但任务对应的数据还留在原来的 NUMA 节点上！这就好比你抢了别人的砖头搬，但你每次都得跨越一整个城市去拿砖。

面对 2 倍以上的内存访问物理延迟，你写再多牛逼的设计模式，也无济于事。

针对上述问题，Go 1.25 和 1.26 已带来部分改进（容器感知的 GOMAXPROCS、Green Tea GC），NUMA 感知的内存分配等更深层优化仍在 Go 1.27以及后续版本的规划中。

2026 年，Go 团队的破局之战

面对这台越来越难以驾驭的硬件巨兽，Go 核心团队当然没有坐以待毙。在 Go 的官方 issue（#65694, #78044）中，核心成员 Michael Pratt 已经明确表态：解决超高核数和 NUMA 下的性能瓶颈，是今年 Go 团队的头等任务之一。

我们即将看到 Go 团队打出的几记重拳：

• 修复“失忆症”（强化亲和性锁链）

就在去年10月份，Go 团队合并了一个关键的底层补丁（CL 714801）。现在，STW 结束后，runtime 会拼命尝试将 P 重新分配给它在 STW 之前绑定的那个 M。把你牢牢按在原来的工位上，死死护住你的 CPU Cache。

• 驯服 GC 抢占（减少驱逐）

新的调度逻辑将尽量避免 GC worker “鸠占鹊巢”，强行驱逐正在运行业务逻辑的 Goroutine，保证业务代码执行环境的连贯性。

• 探索 NUMA 感知的内存分配（软性偏好）

这是目前最艰难但也最激动人心的探索。未来的 Go 有望实现：优先在本地 NUMA 节点分配内存；工作窃取时，优先偷取同一个 NUMA 节点内的任务。彻底斩断无意义的“跨省流量”。

小结：云原生开发者的自我修养

在摩尔定律彻底失效的今天，硬件发展的路线图已经极其明确：单核停滞，核心数将向 256 核、512 核无限狂飙。

这给我们所有 Go 开发者敲响了警钟：

在极致的性能调优面前，我们不能再仅仅满足于写出“业务正确”的代码，更要理解你的代码在真实硬件和操作系统上的物理足迹。

在 Go 1.27 或 Go 1.28 带来这些“性能怪兽级优化”落地之前，如果你发现你的高并发服务在顶级服务器上性能退化，请记住今天这篇文章：

1. 不要急着改代码，先用 top 和 numastat 查一下你的 NUMA 命中率。
2. 极端延迟敏感的场景下，可以临时考虑使用 runtime.LockOSThread() 或利用 cgroups 将进程绑定在特定的 NUMA 节点上运行。

打破对“加机器就能解决一切”的迷信，这是从初级码农走向资深架构师的必经之路。

参考资料

• https://github.com/golang/go/issues/65694
• https://github.com/golang/go/issues/78044

今日互动探讨：

你在生产环境中，遇到过哪些“加了机器/加了配置，性能反而变差”的诡异玄学事件？后来是怎么排查破解的？

欢迎在评论区分享你的血泪排查史！

还在为“复制粘贴喂AI”而烦恼？我的新专栏 《AI原生开发工作流实战》 将带你：

• 告别低效，重塑开发范式
• 驾驭AI Agent(Claude Code)，实现工作流自动化
• 从“AI使用者”进化为规范驱动开发的“工作流指挥家”

扫描下方二维码，开启你的AI原生开发之旅。

你的Go技能，是否也卡在了“熟练”到“精通”的瓶颈期？

• 想写出更地道、更健壮的Go代码，却总在细节上踩坑？
• 渴望提升软件设计能力，驾驭复杂Go项目却缺乏章法？
• 想打造生产级的Go服务，却在工程化实践中屡屡受挫？

继《Go语言第一课》后，我的《Go语言进阶课》终于在极客时间与大家见面了！

我的全新极客时间专栏 《Tony Bai·Go语言进阶课》就是为这样的你量身打造！30+讲硬核内容，带你夯实语法认知，提升设计思维，锻造工程实践能力，更有实战项目串讲。

目标只有一个：助你完成从“Go熟练工”到“Go专家”的蜕变！ 现在就加入，让你的Go技能再上一个新台阶！

原「Gopher部落」已重装升级为「Go & AI 精进营」知识星球，快来加入星球，开启你的技术跃迁之旅吧！

我们致力于打造一个高品质的 Go 语言深度学习 与 AI 应用探索 平台。在这里，你将获得：

• 体系化 Go 核心进阶内容: 深入「Go原理课」、「Go进阶课」、「Go避坑课」等独家深度专栏，夯实你的 Go 内功。
• 前沿 Go+AI 实战赋能: 紧跟时代步伐，学习「Go+AI应用实战」、「Agent开发实战课」、「Agentic软件工程课」、「Claude Code开发工作流实战课」、「OpenClaw实战分享」等，掌握 AI 时代新技能。
• 星主 Tony Bai 亲自答疑: 遇到难题？星主第一时间为你深度解析，扫清学习障碍。
• 高活跃 Gopher 交流圈: 与众多优秀 Gopher 分享心得、讨论技术，碰撞思想火花。
• 独家资源与内容首发: 技术文章、课程更新、精选资源，第一时间触达。

衷心希望「Go & AI 精进营」能成为你学习、进步、交流的港湾。让我们在此相聚，享受技术精进的快乐！欢迎你的加入！

商务合作方式：撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求，请扫描下方公众号二维码，与我私信联系。