K8s如何成为AI时代的底座?
最近看了KubeCon北美大会,CNCF在2026年1月的年度报告显示,全球66%的生成式AI推理工作负载,全都跑在Kubernetes(简称K8s)上。
为什么这个云原生时代的容器编排工具,会成为AI时代的绝对底座?答案很简单:AI竞争已经从“拼算力购买力”转向了“榨干硬件效率”。
过去K8s的设计极限是5000个节点,因为普通互联网业务根本用不到更多。但现在一个AI集群动辄要拉起数万张GPU,旧架构直接就崩了。在百万级Pod的测试中,以前光是等待读写锁就要花掉半秒钟。为了把规模推向10万节点,AWS把压箱底的代码捐给了社区:通过惰性快照把等待时间直接压到了2毫秒,还在12月即将发布的K8s 1.38版本中引入了etcd数据压缩。
这就是在给超级算力集群修筑不会堵车的高速公路。
K8s终于学会了按“AI的逻辑”去调度资源。以前跑AI训练,经常出现100个任务里99个就绪,只差1个没抢到资源,结果那99张昂贵的显卡就在那里空转烧钱。1.38版本推进的成组调度和动态资源分配(DRA),本质上就是规定“要么齐步走,要么都别动”,还能把单张GPU切碎了分给不同任务。配合containerd 2.2的并行解压,一个10GB的庞大AI镜像启动时间从2分钟缩短到了45秒以内;而Agent Substrate项目更是让单节点承载的智能体数量从1个暴增到65个。
没有凭空出现的魔法,只有老旧基础设施的极限进化。大厂们不再各自维护私有的算力调度分支,而是把代码合入K8s主干,这说明底层标准已经收拢。
在这个显卡比黄金还贵的时代,决定一家AI公司生死的,不再是你买了多少张卡,而是你手里的系统能让这些卡少闲置几秒钟。
