标签 Kernel 下的文章

内核之外的冰山:为什么说从零写一个操作系统已几乎不可能?

本文永久链接 – https://tonybai.com/2025/08/16/brand-new-os-impossible

大家好,我是Tony Bai。

对于许多心怀浪漫主义的开发者来说,“从零开始编写一个属于自己的操作系统”,或许是技术生涯中最终极、最性感的梦想。这几乎是现代编程世界的“创世纪”,是掌控计算机每一个比特的至高权力。

然而,最近一位名为 Wildan M 的工程师,在他的一篇博文中,用一次亲身参与 Redox OS 项目的经历,给我们所有人泼了一盆冷水。他的结论简单而又颠覆:

现在,从零开始编写一个全新的、能被广泛采用的操作系统,已几乎是一项不可能完成的任务。

而其真正的难点,并非我们想象中那个神秘而复杂的内核,而在于内核之外,那座看不见的、庞大到令人绝望的“冰山”。

冰山一角:内核,那个“最简单”的部分

故事的主角是 Redox OS,一个雄心勃勃的项目。它旨在用内存安全的 Rust 语言,构建一个现代的、基于微内核架构的、可以替代 Linux 和 BSD 的完整操作系统。

当我们谈论“写一个 OS”时,我们通常指的是编写内核。那么 Redox OS 的内核有多复杂呢?文章给出了惊人的数据:
* 代码量: 约 3 万行 (30k LoC)。
* 启动速度: 大多数情况下,不到 1 秒。

在短短十年间,Redox 团队已经完成了动态链接、Unix 套接字等核心功能。这无疑是令人敬佩的工程壮举。但 Wildan 指出,这仅仅是浮出水面的冰山一角。一个能启动的内核,距离一个“能用”的操作系统,还有着遥远的距离。

冰山之下:生态移植的“五层地狱”

当作者兴致勃勃地想为 Redox OS 贡献力量,尝试将一些现代程序(如 Go, Node.js, Rust 编译器)移植上去时,他才真正撞上了那座隐藏在水面之下的巨大冰山。

一个现代操作系统之所以“能用”,是因为它能运行我们日常使用的所有软件。而将这些软件“搬”到一个全新的操作系统上,需要闯过一重又一重难关。

第一层:系统调用 (Syscall) 的鸿沟

这是最底层的障碍。每个操作系统都有自己的一套与硬件和内核交互的“语言”,即系统调用。Redox OS 的 syscall 与我们熟知的 Linux 完全不同。这意味着,任何需要与内核打交道的程序(几乎是所有程序),都必须重写这部分逻辑,告诉它如何在新世界里“说话”。

第二层:libc 的重担

为了不让每个程序都去痛苦地学习 syscall 这门“方言”,操作系统通常会提供一个标准的“翻译官”——C 标准库 (libc)。它将复杂的 syscall 封装成开发者熟悉的函数(如 printf, open, read)。因此,一个新 OS 的核心任务之一,就是自己实现一个兼容的 libc。Redox 为此用 Rust 实现了一个名为 relibc 的项目,其工程量之浩大可想而知。

第三层:POSIX 的“几乎兼容”陷阱

即便新 OS 像 Redox 一样,努力兼容 POSIX 这个通用标准,噩梦也远未结束。因为无数现有的软件,早已深度依赖于 Linux 特有的、非 POSIX 的功能,比如解析 /proc 文件系统、操作 cgroups 等。结果就是,即使有了 relibc,你依然需要为这些软件挨个打上无数的“补丁”。文章提到,仅 Redox OS 的官方“软件食谱 (Cookbook)”中,就包含了约 70 个这样的补丁。

第四层:编译器的“先有鸡还是先有蛋”

你想在新 OS 上原生编译软件吗?那你首先需要一个能在这个 OS 上运行的编译器,比如 GCC、Rustc 或 Go 编译器。但问题是,移植编译器本身,就是所有软件移植任务中最复杂、最艰巨的一种。它需要处理极其底层的二进制格式、链接方式和系统调用。这形成了一个经典的“鸡生蛋还是蛋生鸡”的困局。

第五层:语言生态的“次元壁”

如果说移植 C 语言程序还只是“困难模式”,那么移植那些拥有自己庞大生态的现代语言程序(如 Rust, Go, Node.js),则是“地狱模式”。这些语言的包管理器(如 Cargo, Go Modules)会从中央仓库下载海量依赖,你很难像修改 C 代码一样,通过一个简单的 .patch 文件来修复所有问题。唯一的办法,往往是去 fork 无数个核心依赖库,然后逐一修改,这几乎是一项不可能完成的任务。

小结:生态,才是那座无法逾越的山

当 Wildan 经历过这一切后,他得出了文章开头的那个结论。

一个操作系统的成功,或许 20% 在于内核的精巧,而 80% 在于其上能否运行用户想要的所有软件。 后者,那个由编译器、标准库、第三方包、应用软件共同构成的庞大生态,才是真正的、几乎无法被复制的“护城河”。

这就像建造一座城市。你可以设计出最宏伟、最先进的市政厅(内核),但如果没有配套的道路、水电、学校、医院、商店(软件生态),这座城市就永远只是一座无法住人的“鬼城”。

这篇文章并非是要劝退所有对底层技术抱有热情的开发者。正如作者所说,如果你想学习,从零开始或加入 Redox 这样的项目,会是一段极其宝贵的经历。但如果你想构建一个被广泛采用的新 OS,你面对的将不仅仅是技术挑战,更是一个需要说服全球成千上万开发者为你“投票”的社会学难题。

这或许就是对那些仍在坚持构建新 OS 的探索者们,我们应该报以最高敬意的原因。因为他们挑战的,不仅仅是代码,更是一整个时代建立起来的软件文明。

资料链接:https://blog.wellosoft.net/writing-a-brand-new-os-is-almost-impossible-by-now


你的Go技能,是否也卡在了“熟练”到“精通”的瓶颈期?

  • 想写出更地道、更健壮的Go代码,却总在细节上踩坑?
  • 渴望提升软件设计能力,驾驭复杂Go项目却缺乏章法?
  • 想打造生产级的Go服务,却在工程化实践中屡屡受挫?

继《Go语言第一课》后,我的《Go语言进阶课》终于在极客时间与大家见面了!

我的全新极客时间专栏 《Tony Bai·Go语言进阶课》就是为这样的你量身打造!30+讲硬核内容,带你夯实语法认知,提升设计思维,锻造工程实践能力,更有实战项目串讲。

目标只有一个:助你完成从“Go熟练工”到“Go专家”的蜕变! 现在就加入,让你的Go技能再上一个新台阶!


商务合作方式:撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求,请扫描下方公众号二维码,与我私信联系。

为何Go语言迟迟未能拥抱 io_uring?揭秘集成的三大核心困境

本文永久链接 – https://tonybai.com/2025/08/11/why-go-not-embrace-iouring

大家好,我是Tony Bai。

在 Linux I/O 的世界里,io_uring 如同划破夜空的流星,被誉为“终极接口”。它承诺以无与伦比的效率,为数据密集型应用带来革命性的性能提升。正如高性能数据库 ScyllaDB 在其官方博文中所展示的,io_uring 能够将系统性能推向新的高峰。

然而,一个令人费解的问题摆在了所有 Go 开发者面前:作为云原生infra和并发编程的标杆,Go 语言为何对这颗唾手可得的“性能银弹”表现得如此审慎,甚至迟迟未能将其拥抱入标准库的怀抱?一场在 Go 官方仓库持续了五年之久的 Issue 讨论(#31908),为我们揭开了这层神秘的面纱。这并非简单的技术取舍,而是 Go 在其设计哲学、工程现实与安全红线之间进行反复权衡的结果。本文将深入这场讨论,为您揭秘阻碍 io_uring 在 Go 中落地的三大核心困境。

io_uring:一场 I/O 模型的革命

要理解这场争论,我们首先需要明白 io_uring 究竟是什么,以及它为何具有革命性。

在 io_uring 出现之前,Linux 上最高效的 I/O 模型是 epoll。epoll 采用的是一种“拉(pull)”模型:应用程序通过一次 epoll_wait 系统调用来询问内核:“有我关心的文件描述符准备好进行 I/O 了吗?”。内核响应后,应用程序需要再为每个就绪的描述符分别发起 read 或 write 系统调用。这意味着,处理 N 个 I/O 事件至少需要 N+1 次系统调用

而 io_uring 则彻底改变了游戏规则。它在内核与用户空间之间建立了两个共享内存环形缓冲区:提交队列(Submission Queue, SQ)完成队列(Completion Queue, CQ)

其工作流程如下:

  1. 提交请求: 应用程序将一个或多个 I/O 请求(如读、写、连接等)作为条目(SQE)放入提交队列中。这仅仅是内存操作,几乎没有开销
  2. 通知内核: 应用通过一次 io_uring_enter 系统调用,通知内核“请处理队列中的所有请求”。在特定模式(SQPOLL)下,这个系统调用甚至可以被省略。
  3. 内核处理: 内核从提交队列中批量取走所有请求,并异步地执行它们。
  4. 返回结果: 内核将每个操作的结果作为一个条目(CQE)放入完成队列。这同样只是内存操作。
  5. 应用收获: 应用程序直接从完成队列中读取结果,无需为每个结果都发起一次系统调用。

这种模式的优势是颠覆性的:它将 N+1 次系统调用压缩为 1 次甚至 0 次,极大地降低了上下文切换的开销,并且首次为 Linux 带来了真正意义上的、无需 O_DIRECT 标志的异步文件 I/O

最初的希望:一剂治愈 Go I/O“顽疾”的良药

讨论伊始,Go 社区对 io_uring 寄予厚望,期待它能一举解决 Go 在 I/O 领域的两大历史痛点:

  1. 真正的异步文件 I/O: Go 的网络 I/O 基于 epoll 实现了非阻塞,但文件 I/O 本质上是阻塞的。为了避免阻塞系统线程,Go 运行时不得不维护一个线程池来处理文件操作。正如社区所期待的,io_uring 最大的吸引力在于“移除对文件 I/O 线程池的需求”,让文件 I/O 也能享受与网络 I/O 同等的高效与优雅。
  2. 极致的网络性能: 对于高并发服务器,io_uring 通过将多个 read/write 操作打包成一次系统调用,能显著降低内核态与用户态切换的开销,这在“熔断”和“幽灵”漏洞导致 syscall 成本飙升的后时代尤为重要。

然而,Go 核心团队很快就为这股热情泼上了一盆“冷水”。

核心困境一:运行时模型的“哲学冲突”

这是阻碍 io_uring 集成最根本、最核心的障碍。Go 的成功很大程度上归功于其简洁的并发模型——goroutine,以及对开发者完全透明的调度机制。但 io_uring 的工作模式,与 Go 运行时的核心哲学存在着深刻的冲突。

冲突的焦点在于“透明性”。Ian Lance Taylor 多次强调,问题不在于 io_uring 能否在 Go 中使用,而在于能否“透明地”将其融入现有的 os 和 net 包,而不破坏 Go 开发者早已习惯的 API 和心智模型。

io_uring 的性能优势源于批处理。但 Go 的标准库 API,如 net.Conn.Read(),是一个独立的、阻塞式的调用。Go 用户习惯于在独立的 goroutine 中处理独立的连接。如何将这些分散的独立 I/O 请求,在用户无感知的情况下,“透明地”收集起来,打包成批?这几乎是一个无解的难题。

社区也提出了“每个 P (Processor) 一个 io_uring 环”的设想,但 Ian 指出这会引入极高的复杂性,包括环的争用、空闲 P 的等待与唤醒、P 与 M 切换时的状态管理等。正如一些社区成员所总结的,io_uring 需要一种全新的 I/O 模式,而这与 Go 现有网络模型的模式完全不同。强行“透明”集成,无异于“在不破坏现有 API 的情况下进行不必要的破坏”。

核心困境二:现实世界的“安全红线”

如果说运行时模型的冲突是理论上的“天堑”,那么安全问题则是实践中不可逾越的“红线”。

在 2024 年初,社区成员 jakebailey 抛出了一个重磅消息:出于安全考虑,Docker 默认的 seccomp 配置文件已经禁用了 io_uring

引用自 Docker 的 commit 信息: “安全专家普遍认为 io_uring 是不安全的。事实上,Google ChromeOS 和 Android 已经关闭了它,所有 Google 生产服务器也关闭了它。”

这个消息对标准库集成而言几乎是致命一击。Go 程序最常见的部署环境就是容器。一个不被“普遍情况”支持的特性,无论其性能多么优越,都难以成为Go运行时和标准库的基石。

核心困境三:追赶一个“移动的目标”

在这场长达五年的讨论中,io_uring 自身也在飞速进化。其作者Jens Axboe 甚至亲自下场,解答了 Go 团队早期的疑虑,例如移除了并发数限制、解决了事件丢失问题等。

但这恰恰揭示了第三重困境:要集成一个仍在高速演进、API 不断变化的底层接口,本身就充满了风险和不确定性。标准库追求的是极致的稳定性和向后兼容性。过早地依赖一个“移动的目标”,可能会带来持续的维护负担和潜在的破坏性变更。对于一个需要支持多个内核版本的语言运行时来说,这种复杂性是难以承受的。

小结:审慎的巨人与退潮的社区热情

io_uring 未能在 Go中落地,并非因为 Go 团队忽视性能,而是其成熟与审慎的体现。三大核心困境层层递进,揭示了其迟迟未能拥抱 io_uring 的深层原因:哲学上的范式冲突、现实中的安全红线、以及工程上的稳定性质疑。

然而,现实比理论更加残酷。在讨论初期,Go 社区曾涌现出一批充满激情的用户层 io_uring 库,如 giouring、go-uring 等,它们是开发者们探索新大陆的先锋。但时至 2025 年,我们观察到一个令人沮丧的趋势:这些曾经的追星项目大多已陷入沉寂,更新寥寥,星光黯淡。

与之形成鲜明对比的是,Rust 的 tokio-uring 库依然保持着旺盛的生命力,社区活跃,迭代频繁。这似乎在暗示,问题不仅在于 io_uring 本身,更在于它与特定语言运行时模型的“契合度”。Go 运行时的 G-P-M 调度模型和它所倡导的编程范式,使得社区自发的集成尝试也步履维艰,最终热情退潮。

这是否意味着 Go 与 io_uring 将永远无缘?或许未来之路有二:一是等待 io_uring 自身和其生态环境(尤其是安全方面)完全成熟;二是 Go 也许可能会引入一套全新的、非透明的、专为高性能 I/O 设计的新标准库包。

在此之前,Go 运行时可能会选择先挖掘 epoll 的全部潜力。这场长达五年的讨论,最终为我们留下了一个深刻的启示:技术的采纳从来不是一场单纯的性能赛跑,它是一场包含了设计哲学、生态现实与工程智慧的复杂博弈。

资料链接:

  • https://github.com/golang/go/issues/31908
  • https://www.scylladb.com/2020/05/05/how-io_uring-and-ebpf-will-revolutionize-programming-in-linux/

关注io_uring在Linux kernel内核演进的小伙伴儿们,可以关注io-uring.vger.kernel.org archive mirror这个页面,或io_uring作者Jens Axboe的liburing wiki


你的Go技能,是否也卡在了“熟练”到“精通”的瓶颈期?

  • 想写出更地道、更健壮的Go代码,却总在细节上踩坑?
  • 渴望提升软件设计能力,驾驭复杂Go项目却缺乏章法?
  • 想打造生产级的Go服务,却在工程化实践中屡屡受挫?

继《Go语言第一课》后,我的《Go语言进阶课》终于在极客时间与大家见面了!

我的全新极客时间专栏 《Tony Bai·Go语言进阶课》就是为这样的你量身打造!30+讲硬核内容,带你夯实语法认知,提升设计思维,锻造工程实践能力,更有实战项目串讲。

目标只有一个:助你完成从“Go熟练工”到“Go专家”的蜕变! 现在就加入,让你的Go技能再上一个新台阶!


商务合作方式:撰稿、出书、培训、在线课程、合伙创业、咨询、广告合作。如有需求,请扫描下方公众号二维码,与我私信联系。

如发现本站页面被黑,比如:挂载广告、挖矿等恶意代码,请朋友们及时联系我。十分感谢! Go语言第一课 Go语言进阶课 AI原生开发工作流实战 Go语言精进之路1 Go语言精进之路2 Go语言第一课 Go语言编程指南
商务合作请联系bigwhite.cn AT aliyun.com
这里是 Tony Bai的个人Blog,欢迎访问、订阅和留言! 订阅Feed请点击上面图片

如果您觉得这里的文章对您有帮助,请扫描上方二维码进行捐赠 ,加油后的Tony Bai将会为您呈现更多精彩的文章,谢谢!

如果您希望通过微信捐赠,请用微信客户端扫描下方赞赏码:

如果您希望通过比特币或以太币捐赠,可以扫描下方二维码:

比特币:

以太币:

如果您喜欢通过微信浏览本站内容,可以扫描下方二维码,订阅本站官方微信订阅号“iamtonybai”;点击二维码,可直达本人官方微博主页^_^:
本站Powered by Digital Ocean VPS。
选择Digital Ocean VPS主机,即可获得10美元现金充值,可 免费使用两个月哟! 著名主机提供商Linode 10$优惠码:linode10,在 这里注册即可免费获 得。阿里云推荐码: 1WFZ0V立享9折!


View Tony Bai's profile on LinkedIn
DigitalOcean Referral Badge

文章

评论

  • 正在加载...

分类

标签

归档



View My Stats