标签 Golang 下的文章

解构Go并发之核,与Dmitry Vyukov共探Go调度艺术

本文永久链接 – https://tonybai.com/2025/06/18/inside-goroutine-scheduler-column

你好,我是Tony Bai。

欢迎踏上一次深入Go并发核心的探索之旅——【Go并发调度艺术】微专栏。我们每天都在使用go关键字轻松驾驭并发,享受着Go语言带来的编程乐趣。但在这简洁的背后,是一套复杂而精密的调度系统在默默支撑。它如同一位技艺精湛的指挥家,巧妙地调度着成千上万的goroutine,在用户态的轻盈与操作系统的力量之间取得了绝妙的平衡。

许多Go开发者为了面试,会去“背诵”GMP模型的概念,记忆那些零散的知识点。但这种学习方式往往浮于表面,难以形成深刻的理解,更不用说将其内化为指导我们编写高效并发程序的工程直觉。

这一次,我们换个视角,不再是被动接受结论,而是主动参与“设计”。

本微专栏的核心特色,是跟随Go调度器的核心设计者之一Dmitry Vyukov的思考路径(基于其经典的Go调度器设计资料)。我们将设身处地,从他最初面临的设计目标和挑战开始,一步步看他是如何分析问题、尝试方案、做出权衡,并最终构建出我们今天所熟知的、强大的Go调度器的。

在这个微专栏中,你将“亲历”:

  1. 并发的初心与抉择: Go为什么需要自己的调度器?面对轻量化、大规模并发的严苛目标,为何OS线程模型捉襟见肘?早期M:N模型的探索与瓶颈。
  2. 可伸缩的引擎构建: 全局锁的魔咒如何破解?P(Processor)是如何诞生的?GMP三者如何协作,通过分布式调度和工作窃取实现卓越的伸缩性与效率?
  3. 调度的艺术与匠心: 在高效的基础上,调度器如何追求公平性,避免goroutine饿死?“无限”栈是如何从理念一步步演进为工程现实的?优雅的抢占机制又是如何设计的,以保障系统的响应性与GC的顺畅?

我们的目标是,通过这种“问题驱动”和“设计者视角”的学习方式:

  • 让你真正理解Go调度器每个设计决策背后的“为什么”。
  • 帮助你将这些原理内化为常识,而非生硬的记忆。

三篇深度探索,为你揭示:

  • 第 1 篇:轻量与并发的初心:Goroutine的设计目标与早期M:N模型的探索
  • 第 2 篇:可伸缩的并发引擎:从分布式调度到M:P:N模型的演进
  • 第 3 篇:调度的艺术与匠心:公平性、动态栈与优雅抢占的实现

无论你是希望在技术深度上更进一步,还是想在面试中展现对Go并发的透彻理解,亦或是对计算机系统底层原理充满好奇,这个微专栏都将是一次不容错过的思想盛宴。

这不仅仅是一次对“Go原理”的学习,更是一次与顶尖工程师设计思想的碰撞与共鸣。

准备好成为Go调度器设计过程的“参与者”了吗?扫下方二维码订阅,让我们一起,拨开并发调度的层层迷雾,探寻其核心的艺术与智慧。

更多有关Go、AI以及云原生的深度微专栏,请点击【微专栏】合集选择订阅。


商务合作方式:撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求,请扫描下方公众号二维码,与我私信联系。

“骑手与大象”架构:超越微服务与单体之争的务实之道?

本文永久链接 – https://tonybai.com/2025/06/17/rider-elephant-arch

大家好,我是Tony Bai。

在软件架构的江湖里,关于“微服务”与“单体”的论战,几乎从未停歇。一方推崇微服务的灵活性、可扩展性和独立部署,另一方则坚守单体的简洁性、低通信开销和易于本地调试。近年来,我们甚至看到像亚马逊 Prime Video 这样重量级的玩家,也公开分享了其从微服务“回归”到某种形式的单体(或者说更粗粒度的服务)的实践,引发了业界新一轮的思考。

这不禁让我们反问:微服务与单体,真的就是非此即彼的“二元对立”吗?

最近,国外一家名为DealGate公司的一篇文章《Introducing the Rider and Elephant Software Architecture》,提出了一种他们称之为“骑手与大象”的架构模式,试图在这场看似无解的争论中,找到一条务实的中间道路。这种模式不仅在他们的实践中取得了显著成效,其背后的设计哲学和对技术选型的思考,也颇具启发意义。

“骑手与大象”:一个古老隐喻的现代架构演绎

DealGate 将其架构模式命名为“骑手与大象”,其灵感来源于心理学中的一个经典比喻:人类的思维由两部分组成——理性的“骑手”(对应我们发达的前额叶皮层,负责规划、分析和决策)和感性的、更强大的“大象”(对应我们原始的、更底层的“蜥蜴脑”或“穴居人脑”,驱动着本能和情绪)。骑手虽然可以尝试引导大象,但无法完全控制它;而如果骑手想独自前行,又会发现大象的力量是其无法比拟的。只有当骑手与大象协同合作时,才能发挥出最大的效能。

在 DealGate 的架构中,这个隐喻被巧妙地映射到了技术组件上:

  • “大象 (Elephant)”:由 Go语言构建的应用。它不包含任何复杂的业务逻辑,但却承担着所有“脏活累活”——大规模的、高并发的数据处理。在 DealGate 的场景中,这可能意味着在任何时刻都有数万个 goroutine 在处理图像、PDF,抓取数千万级别的网页,并在每个网页上运行数千万次的正则表达式匹配。“大象”的核心职责是:强大、高效、能扛事儿。
  • “骑手 (Rider)”:由NextJS (Node.js) 构建的应用。它承载了所有的业务逻辑、数据库访问、用户交互等。“骑手”的核心职责是:灵活、敏捷、快速响应业务变化。
  • 缰绳 (Communication):“骑手”通过 gRPC 来“引导”和控制“大象”,两者之间保持低开销、高效率的通信。

这种架构的核心思想是:将需要极致性能和高并发处理的“重计算”部分(大象),与需要快速迭代和灵活业务逻辑的“轻应用”部分(骑手)进行分离,并让它们通过高效的通信方式协同工作。

为何选择“骑手与大象”?DealGate 的实践与思考

DealGate 之所以采用这种架构,源于他们在实际业务中遇到的挑战和对现有架构模式的反思。

  • 对“微服务 vs 单体”的“虚假二分法”说不:他们认为,单纯地在微服务和单体之间做选择,往往忽略了业务的复杂性和多样性。他们希望能够“have the best of both worlds”(取两者之长)。
  • Node.js/NextJS 的局限性:尽管 DealGate 的主要应用是用 NextJS 编写的,但他们发现,即使 Node.js 在 I/O 和网络处理上有多线程优势,其正则表达式等 CPU 密集型操作仍然受限于单线程(JavaScript 的执行模型)。当需要在后台进行大量正则匹配,同时还要响应 Web 应用请求时,性能瓶颈就显而易见了。
  • Go 语言的“大象”潜质:文章中明确指出:“Go语言非常适合这种场景,你可以轻松地扔给它数万个CPU密集型进程,它会愉快地处理掉所有这些”。这充分肯定了 Go 语言在并发处理和性能方面的核心优势。
  • 对微服务通信开销的警惕:DealGate 批评了许多微服务架构使用 JSON 进行进程间通信的做法,认为其“序列化和反序列化开销是令人发指的”。他们选择 gRPC,正是为了最大限度地降低“骑手”与“大象”之间的通信成本,确保即使在需要传输大量数据(因为“大象”不包含业务逻辑,需要被视为“愚笨的工人”)的情况下,也能保持高效。

Go 语言:扮演“大象”的理想之选

在“骑手与大象”的架构中,Go 语言之所以被选中扮演“吃苦耐劳的大象”,并非偶然。这得益于 Go 语言的核心特性:

  1. 极致的并发性能:Goroutine 和 Channel 机制,配合高效的调度器,使得 Go 能够轻松创建和管理海量的并发任务,这对于处理 DealGate 所述的“数万个 goroutine 同时处理数据”的场景至关重要。
  2. 高效的执行效率:Go 语言编译为原生机器码,其性能接近 C/C++,远超解释型语言,非常适合 CPU 密集型的数据处理任务。
  3. 强大的标准库:Go 的标准库提供了丰富的网络编程、文本处理(包括正则表达式)、数据编解码等功能,为构建“大象”应用提供了坚实的基础。
  4. 简洁的部署:Go 应用可以编译成单个静态链接的可执行文件,部署简单,依赖少。

可以说,Go 语言的设计哲学和核心能力,使其成为承载这种“无业务逻辑、高并发、重计算”角色的理想选择。

语言选型的“二八原则”与“务实主义”

“骑手与大象”架构的另一个核心启示,在于其对不同技术栈的选择策略,体现了一种深刻的“务实主义”和对“成本效益”的考量。

文章明确反驳了“既然有更高性能的语言(如 Rust 或 Go 本身),为什么不把所有应用都用它来写?”的观点,并将其类比为“那所有应用都应该用汇编来写了”。

其核心逻辑是:

  • 高级语言(如 JavaScript, Python)的优势:更安全(内存管理等)、生产力更高(表达力强、语法糖和轮子多)、开发者社群更大、单位时间开发成本相对更低。
  • 高性能/底层语言(如 Go, Rust, C++)的优势:性能极致、对系统资源有更精细的控制。但通常也意味着更陡峭的学习曲线、更高的开发成本、以及(在某些情况下)更长的开发周期。

DealGate 的策略是:“在你必须快的地方快,其他一切都选择高级语言和(相对)单体的模式。” 这意味着:

  • 将昂贵的、需要精细优化的高性能代码(大象)限制在最小的必要范围内(例如,只占整个业务系统的 10%)。
  • 将大部分的业务逻辑、用户交互(骑手)用生产力更高、开发更快的高级语言来实现

这种“混合编程”或“多语言架构”的思路,实际上是在性能、开发效率、人才获取成本、维护成本等多个维度之间进行权衡和优化。它提醒我们,技术选型不应盲目追求“最新最酷”或“性能极致”,而应服务于业务需求,并充分考虑团队和公司的实际情况。

文章中也提及了对“Just write Rust”(就用 Rust 写)这类口号的反思,指出大多数公司和开发者可能无法承担全员学习和使用像 Rust 这样“高门槛”语言的成本。这并非否定 Rust 的优秀,而是强调技术选型的现实约束。

小结:“没有完美的解决方案,只有明智的权衡”

“没有完美的解决方案,只有权衡取舍”。DealGate 的文章以这句经典的名言作为总结,恰如其分。

“骑手与大象”架构,正是在微服务的灵活性、分布式能力与单体的低心智负担、高开发效率之间做出的一种明智权衡。它并非适用于所有场景的“银弹”,但在类似 DealGate 这样需要处理大规模数据密集型任务,同时又需要快速迭代业务逻辑的场景下,无疑提供了一种极具价值的、务实的架构思路。

它也再次印证了一个朴素的道理:优秀的架构设计,往往不是对某种“主义”的盲从,而是对业务需求的深刻理解和对不同技术优劣的精准把握,最终在各种约束条件下找到那个“恰到好处”的平衡点。

或许,在微服务与单体的喧嚣争论之外,我们更应该学习这种“骑手与大象”的智慧——在正确的地方,用正确的方式,做正确的事情。

参考文献:
Introducing the Rider and Elephant Software Architecture – https://d-gate.io/blog/rider-and-elephant-architecture


聊一聊,也帮个忙:

  • 你如何看待 DealGate 提出的“骑手与大象”架构模式?它是否对你的项目有所启发?
  • 在你的工作中,是否也遇到过类似的“微服务 vs 单体”或“高性能 vs 高生产力”的选型困境?你是如何权衡的?
  • Go 语言在你心目中,更适合扮演“骑手”还是“大象”的角色?或者两者皆可,取决于具体场景?

欢迎在评论区留下你的思考和经验。如果你觉得这篇文章提供了一个有价值的视角,也请转发给你身边的开发者和架构师朋友们,一起探讨更务实的架构之道!


精进有道,更上层楼

极客时间《Go语言进阶课》上架刚好一个月,受到了各位读者的热烈欢迎和反馈。在这里感谢大家的支持。目前我们已经完成了课程模块一『语法强化篇』的 13 讲,为你系统突破 Go 语言的语法认知瓶颈,打下坚实基础。

现在,我们即将进入模块二『设计先行篇』,这不仅包括 API 设计,更涵盖了项目布局、包设计、并发设计、接口设计、错误处理设计等构建高质量 Go 代码的关键要素。

这门进阶课程,是我多年 Go 实战经验和深度思考的结晶,旨在帮助你突破瓶颈,从“会用 Go”迈向“精通 Go”,真正驾驭 Go 语言,编写出更优雅、
更高效、更可靠的生产级代码!

扫描下方二维码,立即开启你的 Go 语言进阶之旅!


商务合作方式:撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求,请扫描下方公众号二维码,与我私信联系。

如发现本站页面被黑,比如:挂载广告、挖矿等恶意代码,请朋友们及时联系我。十分感谢! Go语言第一课 Go语言进阶课 Go语言精进之路1 Go语言精进之路2 Go语言第一课 Go语言编程指南
商务合作请联系bigwhite.cn AT aliyun.com

欢迎使用邮件订阅我的博客

输入邮箱订阅本站,只要有新文章发布,就会第一时间发送邮件通知你哦!

这里是 Tony Bai的个人Blog,欢迎访问、订阅和留言! 订阅Feed请点击上面图片

如果您觉得这里的文章对您有帮助,请扫描上方二维码进行捐赠 ,加油后的Tony Bai将会为您呈现更多精彩的文章,谢谢!

如果您希望通过微信捐赠,请用微信客户端扫描下方赞赏码:

如果您希望通过比特币或以太币捐赠,可以扫描下方二维码:

比特币:

以太币:

如果您喜欢通过微信浏览本站内容,可以扫描下方二维码,订阅本站官方微信订阅号“iamtonybai”;点击二维码,可直达本人官方微博主页^_^:
本站Powered by Digital Ocean VPS。
选择Digital Ocean VPS主机,即可获得10美元现金充值,可 免费使用两个月哟! 著名主机提供商Linode 10$优惠码:linode10,在 这里注册即可免费获 得。阿里云推荐码: 1WFZ0V立享9折!


View Tony Bai's profile on LinkedIn
DigitalOcean Referral Badge

文章

评论

  • 正在加载...

分类

标签

归档



View My Stats