标签 标准库 下的文章

从arena、memory region到runtime.free:Go内存管理探索的务实转向

本文永久链接 – https://tonybai.com/2025/09/18/go-runtime-free-proposal

大家好,我是Tony Bai。

Go 的垃圾收集器(GC)是其简单性和并发安全性的基石,但也一直是性能优化的焦点。近年来,Go 核心团队为了进一步降低 GC 开销,进行了一系列前沿探索:从备受争议的arena 实验,到更优雅但实现复杂的 memory regions构想,最终,焦点似乎汇聚在了一项更务实、更具潜力的提案上——runtime.free。这项编号为 #74299 的实验性提案,正试图为 Go 的内存管理引入一个革命性的新维度:允许编译器和部分标准库在特定安全场景下,绕过 GC,直接释放和重用内存。其原型已在 strings.Builder 等场景中展现出高达 2 倍的性能提升。

本文将带着大家一起回顾 Go 内存管理的这段探索之旅,并初步剖析一下 runtime.free 提案的背景、核心机制及其对 Go 性能生态的深远影响。

背景:一场关于“手动”内存管理的漫长探索

Go 语言自诞生以来,其自动内存管理(GC)一直是核心特性之一。然而,对于性能极致敏感的场景——例如高吞吐量的网络服务——GC 的开销始终是开发者关注的焦点。为了赋予开发者更多控制力,Go 团队近年来开启了一系列关于“手动”或“半自动”内存管理的探索。

第一站:arena 实验——功能强大但难以融合

arena 实验(#51317)是第一次大胆的尝试。它引入了一个 arena.Arena 类型,允许开发者将一组生命周期相同的对象分配到一个独立的内存区域中,并在不再需要时一次性、批量地释放整个区域

  • 优点:arena 在特定场景下取得了显著的性能提升,因为它极大地减少了 GC 的扫描和回收工作。
  • 问题:arena 的 API 侵入性太强。几乎所有需要利用 arena 的函数都必须额外接收一个 arena 参数,这会导致 API 的“病毒式”传播,并且与 Go 的隐式接口、逃逸分析等特性组合得非常糟糕。最终,由于其糟糕的“可组合性”,arena 提案被无限期搁置。

第二站:memory regions——更优雅的构想与巨大的挑战

吸取了 arena 的教训,Go 团队提出了一个更优雅、更符合 Go 哲学的构想:内存区域(Memory Regions)(#70257)。其核心思想是,通过一个 region.Do(func() { … }) 调用,将一个函数作用域内的所有内存分配隐式地绑定到一个临时的、与 goroutine 绑定的区域中。

  • 优点:API 对用户透明,无需修改现有函数的签名。更重要的是,它是内存安全的——如果区域内的某个对象“逃逸”到了区域之外,运行时会自动将其“拯救”出来,交还给全局 GC 管理,避免了 arena 可能导致的 use-after-free 崩溃。
  • 问题:这个优雅设计的背后,是极其复杂的实现。它需要在开启区域的 goroutine 中启用一个特殊的、低开销的写屏障(write barrier)来动态追踪内存的逃逸。虽然理论上可行,但其实现复杂度和潜在的性能开销,使其成为一个长期且充满不确定性的研究课题。

最终的焦点:runtime.free——务实且精准的“外科手术”

在 arena 的侵入性和 memory regions 的复杂性之间,Go 团队似乎找到了一个更务实、更具工程可行性的平衡点——runtime.free 提案。

它不再追求一个“要么全有,要么全无”的全局解决方案,而是提出了一种精准的、由编译器和运行时主导的“外科手术”。其核心思想是:与其让开发者手动管理整个内存区域,不如让更了解代码细节的编译器底层标准库,在绝对安全的前提下,对那些生命周期短暂的、已知的堆分配进行点对点的、即时的释放和重用

这种方法解决了 arena 的可组合性问题(因为它是自动的或内部的),也绕开了 memory regions 的全局复杂性。它像一把锋利的手术刀,精确地切除了那些最明确、最高频的冗余内存分配,为解决 Go 性能优化中的“鸡与蛋”问题提供了全新的思路。

runtime.free 的双重策略:编译器自动化与标准库手动优化

该提案并非要将 free 的能力直接暴露给普通开发者。相反,它采取了一种高度受控的、分两路进行的策略:

1. 编译器自动化 (runtime.freetracked)

这是该提案最激动人心的部分。编译器将获得自动插入内存跟踪和释放代码的能力。

  • 工作流程

    1. 识别:当编译器遇到一个 make([]T, size),它能证明这个 slice 的生命周期不会超过当前函数作用域,但因其大小未知(或超过 32 字节)而必须在堆上分配时,它会将这次分配标记为“可跟踪”。
    2. 跟踪:编译器会生成 makeslicetracked64 来分配内存,并将一个“跟踪对象”记录在当前函数栈上的一个特殊数组 freeablesArr 中。
    3. 释放:编译器会自动插入一个 defer freeTracked(&freeables) 调用。当函数退出时,这个 defer 会被执行,通知运行时可以安全地回收 freeablesArr 中记录的所有堆对象。
  • 对开发者的影响:这意味着,未来开发者编写的许多看似会产生堆分配的函数,将被编译器自动重写为不产生 GC 压力的版本,而开发者对此完全无感

// 开发者编写的代码
func f1(size int) {
    s := make([]int64, size) // 堆分配
    // ... use s
}

// 编译器可能重写为(概念上)
func f1(size int) {
    var freeablesArr [1]trackedObj
    freeables := freeablesArr[:]
    defer runtime.freeTracked(&freeables)

    s := runtime.makeslicetracked64(..., &freeables) // 分配并跟踪
    // ... use s
}

2. 标准库手动优化 (runtime.freesized)

对于一些底层、性能关键的标准库组件,它们内部的内存管理逻辑比编译器能静态证明的要复杂。对于这些场景,提案提供了一个受限的、手动的 runtime.freesized 接口。

  • 目标场景

    • strings.Builder / bytes.Buffer 的扩容:当内部 []byte 缓冲区需要扩容时,旧的、较小的缓冲区就可以被立即释放。
    • map 的扩容:当 map 增长或分裂时,旧的 backing array 也可以被回收。
    • slices.Collect:在构建最终 slice 过程中产生的中间 slice 也可以被释放。
  • 惊人的性能提升:提案中的基准测试显示,通过在 strings.Builder 的扩容逻辑中手动调用 runtime.freesized,在有多次写入(即多次扩容)的场景下,其性能提升了 45% 到 55%,几乎是原来的两倍快!

这证明,在正确的“热点”位置进行手动释放,可以带来巨大的性能收益。

性能影响与权衡

引入手动内存管理,必然会带来对正常分配路径的性能影响。提案对此进行了细致的评估:

  • 对正常分配路径的影响:基准测试表明,即使开启了 runtimefree 实验,对于不涉及内存重用的普通分配路径,其性能影响在 -1.5% 到 +2.2% 之间,几何平均值几乎为零。这表明该功能在不使用时,几乎是“免费”的。
  • 潜在的性能收益
    1. 减少 GC CPU 使用:这是最直接的好处。
    2. 延长 GC 周期:更少的垃圾意味着 GC 运行频率更低,从而减少写屏障(write barrier)开启的时间,提升应用代码的执行速度。
    3. 更优的缓存局部性:被释放的内存可以立即被下一个分配重用,可能形成 LIFO(后进先出)式的内存访问模式,对 CPU 缓存极为友好。
    4. 减少 GC 停顿:更少的 GC 工作意味着更少的 STW(Stop-The-World)时间和 GC 辅助(assist)开销。

小结:Go 内存管理的“第三条路”

runtime.free 提案并非要将 Go 变成 C++ 或 Rust,它无意将手动内存管理的复杂性抛给普通开发者。相反,它代表了 Go 在自动内存管理(GC)和静态内存管理(栈分配)之外,探索的“第三条路”——由编译器和运行时主导的、高度受控的动态内存优化

这一探索是务实且极具潜力的:

  • 务实:它从解决现实的性能瓶颈(如 strings.Builder)和优化僵局(逃逸分析)入手,目标明确。
  • 安全:通过将能力严格限制在编译器和少数底层标准库中,它最大限度地避免了困扰其他语言的手动内存管理错误。
  • 潜力巨大:一旦这个机制成熟,编译器可以将其应用到更多模式中(如循环内的 append),进一步减少 Go 程序的内存分配。

虽然这项工作仍处于实验阶段,但它清晰地指明了 Go 性能优化的下一个前沿方向。通过让编译器和运行时变得更加“智能”,在保证安全性的前提下,选择性地介入内存管理,Go 语言有望在保持其简洁易用性的同时,攀上新的性能高峰。

参考资料

  • runtime, cmd/compile: add runtime.free, runtime.freetracked and GOEXPERIMENT=runtimefree – https://github.com/golang/go/issues/74299
  • a safe free of memory proposal, runtime.FreeMemory() – https://groups.google.com/g/golang-nuts/c/cmpiArv10f4
  • Directly freeing user memory to reduce GC work – https://go.googlesource.com/proposal/+/94843c2c941f64a86001e51ed775b918cc89b365/design/74299-runtime-free.md
  • memory regions – https://github.com/golang/go/discussions/70257
  • proposal: arena: new package providing memory arenas – https://github.com/golang/go/issues/51317

你的Go技能,是否也卡在了“熟练”到“精通”的瓶颈期?

  • 想写出更地道、更健壮的Go代码,却总在细节上踩坑?
  • 渴望提升软件设计能力,驾驭复杂Go项目却缺乏章法?
  • 想打造生产级的Go服务,却在工程化实践中屡屡受挫?

继《Go语言第一课》后,我的《Go语言进阶课》终于在极客时间与大家见面了!

我的全新极客时间专栏 《Tony Bai·Go语言进阶课》就是为这样的你量身打造!30+讲硬核内容,带你夯实语法认知,提升设计思维,锻造工程实践能力,更有实战项目串讲。

目标只有一个:助你完成从“Go熟练工”到“Go专家”的蜕变! 现在就加入,让你的Go技能再上一个新台阶!


商务合作方式:撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求,请扫描下方公众号二维码,与我私信联系。

“包管理器是万恶之源”:一次来自Odin语言作者的灵魂拷问

本文永久链接 – https://tonybai.com/2025/09/13/package-managers-are-evil

大家好,我是Tony Bai。

“包管理器是万恶之源 (Package Managers are Evil)。”

这句石破天惊的论断,出自Odin语言的创造者Ginger Bill最近发表的一篇博文。在一个npm install、pip install、go get已经成为开发者肌肉记忆的时代,这无异于一篇挑战整个现代软件开发基石的“檄文”。

对于我们这些深度依赖go mod的Gopher来说,这无疑也是一次直击灵魂的拷问。我们早已习惯了Go Modules带来的便利——它解决了版本锁定、依赖传递和可复现构建等核心问题,被公认为Go生态走向成熟的里程碑。但我们是否在享受便利的同时,也正在“自动化我们的依赖地狱”?

Ginger Bill的这篇文章并非无的放矢的抱怨,而是一次对开发者文化、信任模型和软件工程第一性原理的深刻反思。让我们直面这次拷问,并以此为镜,重新审视我们与go mod的关系。

核心论点:包管理器是“依赖地狱的自动化”

首先,Ginger Bill做了一个关键的区分,他的矛头并非指向:

  • 包(Packages): 代码组织单元。
  • 仓库(Repositories): 发现和存储包的地方(如GitHub)。
  • 构建系统(Build Systems): 编译和链接代码的工具。

他精准地将炮火对准了包管理器(Package Managers)的核心功能:自动化地下载、解析和处理依赖关系。

他认为,这正是问题的根源所在。“依赖地狱”(Dependency Hell)是一个真实存在的、困扰着所有大型项目的难题——成千上万个你并不真正了解的传递依赖,版本冲突、潛在的bug、未知的安全漏洞,共同构成了一个巨大的泥潭。

而包管理器的作用,就是“将这个通往地狱的过程自动化了”

他辛辣地指出:“不是所有能被自动化的东西,都应该被自动化,尤其是依赖地狱。”

他的核心观点是,npm install或go get这种一键式的便利,剥夺了开发者一个至关重要的环节:思考

“当你必须手动下载和集成一个库时,你会开始思考:‘我也许并不需要这个’,或者‘我可以用别的方式来实现’。当需要更新时,手动操作会迫使你变得非常小心。”

这种被刻意放慢的、充满“摩擦力”的过程,迫使开发者去审视每一个引入的依赖,将其视为一个严肃的决策,而不是一次随意的命令行敲击。

Go的悖论:一个“幸免于难”的生态?

有趣的是,在Ginger Bill的批判中,Go被作为一个相对正面的例子提及。他观察到,即便Go拥有一个内置的包管理器,但大多数Go开发者似乎并不需要引入大量的第三方包。

“通往地狱的入口似乎又远又难走。”

为什么Go生态在一定程度上抵御了其他生态(如JavaScript)中那种失控的依赖爆炸?答案在于Go语言的设计哲学:“自带电池”(Batteries Included)

Go拥有一个极其强大和全面的标准库。你想构建一个高性能的Web服务器?net/http就在那里。你需要处理JSON、加密、模板或者并发?标准库为你提供了一流的、经过实战检验的工具。你甚至可以在标准库里找到一个完整的Go编译器。

这种设计极大地降低了对外部微小、功能单一的“工具包”的依赖。当标准库就能满足80%的需求时,开发者自然不会像在其他生态中那样,为了实现一个最基本的功能(比如left-pad)就去引入一个外部依赖。

然而,这并不意味着Go开发者可以高枕无忧。go mod依然是一个强大的自动化工具,当我们开始引入大型框架(如Gin、GORM)或复杂的SDK时,我们同样面临着瞬间引入数十甚至上百个传递依赖的风险。

每一个依赖,都是你签下的一份“责任状”

文章中最深刻的观点之一,是对“依赖”一词含义的重新诠释。

“在现实生活中,当你有一个依赖时,你要对它负责。如果你的孩子或你的公司做错了事,你可能会因此进监狱。包依赖与此相去不远,但人们却在几乎没有任何验证的情况下就信任了它们。”

每一个go get下来的包,都是一份你自愿承担的负债。你不仅要为它的安全漏洞负责,还要为它的bug、为它未来可能停止维护的风险负责。

作者以他自己使用著名C库SDL2的痛苦经历为例。尽管SDL2被数百万人使用,但他的团队却不断踩到其中的bug,最终决定自己从头编写窗口和输入处理系统。“至少这是我们自己的代码,当出问题时我们可以依赖和修复它。”

“我不是在提倡一切都从头造轮子,” 作者澄清道,“我只是希望我们能认识到,每一个依赖都是一份负债。”

文化反思:程序员世界里的“盖尔曼遗忘效应”

为什么我们会如此轻易地信任来自互联网的随机代码?文章引用了ThePrimeagen的一个精彩论点:编程界的“盖尔曼遗忘效应”(Gell-Mann Amnesia Effect)

这个效应描述了一种现象:当你在报纸上读到一篇关于你所精通领域的文章时(比如马术),你会发现其中充满了错误和误解。然后,你翻到下一页,读到一篇关于你不了解的领域(比如JavaScript)的文章,你又会理所当然地认为它是完全正确的。你瞬间忘记了刚刚才亲身验证过的、媒体的不可靠性。

程序员也存在同样的问题:

“你会发现工程师们一边说‘我的一些同事太可怕了’,一边又说‘嘿,让我从网上下载这个库,这肯定很棒’。他们看着自己公司三分之一的员工无法写出像样的代码,同时又选择信任他们下载的每一个开源包。”

我们对自己身边代码的质量持怀疑态度,却对那些由“开源大神”(他们可能和我们糟糕的同事是同一水平)编写的代码抱有不切实际的、过高的信任。

小结:给Gopher的启示——如何与go mod共存?

Ginger Bill的结论是激进的:如果可能,应该避免使用包管理器。对于大多数在团队中工作的Go开发者来说,这显然是不现实的。go mod是Go生态协作的基石,我们不可能回到手动管理依赖的蛮荒时代。

然而,这篇文章的价值不在于它的结论,而在于它提出的哲学框架。它像一面镜子,让我们反思我们与go mod的关系。我们可以从中提炼出几条适用于Gopher的行动指南:

  1. 将go get视为一个严肃的架构决策:在引入任何新的依赖之前,进行尽职调查。检查它的代码质量、社区活跃度、issue列表和维护状态,虽然这会给你带来不小的额外工作量。
  2. 永远优先选择标准库:在寻求外部解决方案之前,先问自己:“这个问题,std库里真的没有解决方案吗?” 往往答案是有的,只是需要你多花一点时间去挖掘。
  3. 适当优先地拥抱代码生成,而非黑盒框架:在某些场景下,使用代码生成工具(如sqlc)可能比引入一个庞大的ORM框架(它会带来一整套复杂的依赖和抽象)更“简单”,因为它产出的是你可以直接阅读和控制的代码。
  4. 定期审计你的依赖树:使用go mod graph和go list -m all来审视你的项目究竟依赖了什么。对于那些不再需要,或者有更好替代品的依赖,要勇于清理。别忘了Go Proverbs中的那一条:A little copying is better than a little dependency。

Go的“自带电池”哲学给了我们一个得天独厚的优势,让我们能更容易地践行“少即是多”的依赖管理原则。最好的包管理器,或许就是那个你用得最少的。 而go mod的真正强大之处,可能不在于它能多么轻易地帮我们添加依赖,而在于它通过一个强大的标准库,让我们在很多时候,根本无需想起它。


想系统学习Go,构建扎实的知识体系?

我的新书《Go语言第一课》是你的首选。源自2.4万人好评的极客时间专栏,内容全面升级,同步至Go 1.24。首发期有专属五折优惠,不到40元即可入手,扫码即可拥有这本300页的Go语言入门宝典,即刻开启你的Go语言高效学习之旅!


商务合作方式:撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求,请扫描下方公众号二维码,与我私信联系。

如发现本站页面被黑,比如:挂载广告、挖矿等恶意代码,请朋友们及时联系我。十分感谢! Go语言第一课 Go语言进阶课 Go语言精进之路1 Go语言精进之路2 Go语言第一课 Go语言编程指南
商务合作请联系bigwhite.cn AT aliyun.com

欢迎使用邮件订阅我的博客

输入邮箱订阅本站,只要有新文章发布,就会第一时间发送邮件通知你哦!

这里是 Tony Bai的个人Blog,欢迎访问、订阅和留言! 订阅Feed请点击上面图片

如果您觉得这里的文章对您有帮助,请扫描上方二维码进行捐赠 ,加油后的Tony Bai将会为您呈现更多精彩的文章,谢谢!

如果您希望通过微信捐赠,请用微信客户端扫描下方赞赏码:

如果您希望通过比特币或以太币捐赠,可以扫描下方二维码:

比特币:

以太币:

如果您喜欢通过微信浏览本站内容,可以扫描下方二维码,订阅本站官方微信订阅号“iamtonybai”;点击二维码,可直达本人官方微博主页^_^:
本站Powered by Digital Ocean VPS。
选择Digital Ocean VPS主机,即可获得10美元现金充值,可 免费使用两个月哟! 著名主机提供商Linode 10$优惠码:linode10,在 这里注册即可免费获 得。阿里云推荐码: 1WFZ0V立享9折!


View Tony Bai's profile on LinkedIn
DigitalOcean Referral Badge

文章

评论

  • 正在加载...

分类

标签

归档



View My Stats