
2026年11月9日至12日,KubeCon + CloudNativeCon North America在盐湖城Salt Palace会议中心举行。本届大会的核心张力并非GPU调度之争或新框架发布,而是指向一个基础设施层面的根本性难题:当集群内的AI智能体执行具有重大影响的行动时,如何精准溯源并证明具体是哪个智能体实例所为?
这一“身份危机”构成了今年大会的技术主轴。随着AI工作负载从静态服务向具备上下文记忆的智能体演进,传统的云原生身份架构正面临严峻挑战。
联合举办日:AI推理与物理智能成为焦点
大会周一为联合举办日,新增的“云原生AI推理日”反映了过去一年技术重心的转移。往年分散在各轨道的AI议题,今年被整合为独立的推理和智能体工作负载日,涵盖LLM服务、智能体编排、可观测性及协议互操作性。参展项目包括llm-d、KServe、OpenTelemetry及Model Context Protocol (MCP)。
同期举行的“Kubernetes上的机器人技术与物理AI日”,则探讨了将云原生调度原语扩展至边缘设备和机器人平台的可能性。
身份危机:SPIFFE架构与智能体的不匹配
当前Kubernetes工作负载身份标准SPIFFE及其实现SPIRE,旨在为功能可互换的服务实例(如Web服务器Pod)分配加密凭据。然而,AI智能体具有非确定性和状态累积特征。即使运行在同一镜像和服务账户下,拥有不同对话历史和推理状态的智能体实例在功能上并不等同。
Solo.io在2026年8月的分析指出,现有凭据模型将身份绑定于基础设施拓扑槽位,而非运行中的推理过程,导致审计和责任归属出现缺口。数据显示,72%的组织中非人类身份数量已超过人类身份,且70%的组织授予AI系统的权限高于同等角色的人类用户。
本周大会讨论了多种解决方案,包括生成每实例SPIFFE身份、引入会话范围补充令牌,以及加强智能体编排框架与服务网格的集成。但目前社区尚未就单一标准达成共识,相关讨论仍在持续进行中。
里程碑:llm-d 1.0发布与网关层成熟
在具体技术进展方面,CNCF Sandbox项目llm-d于10月20日发布v1.0版本。该框架由IBM Research、Red Hat、Google Cloud、CoreWeave和NVIDIA共同维护,专为Kubernetes原生分布式LLM推理设计。v1.0版本的发布标志着其API表面趋于稳定,生产用户可依赖其进行部署,无需担忧破坏性变更。
与此同时,Gateway API Inference Extension于2026年4月19日随v1.5.0版本达到通用可用性(GA)。通过引入InferencePool和InferenceModel两个自定义资源定义,该扩展赋予Kubernetes控制平面语义感知能力,使其能基于KV缓存局部性和模型加载延迟做出更优的路由决策。多个网关实现已通过合规性测试,意味着推理感知路由不再是实验性功能,而是可标准化的生产组件。
GPU调度:三足鼎立与DRA集成
GPU调度格局已从Kueue与Volcano的双雄对峙演变为三方竞争。NVIDIA KAI Scheduler作为针对AI工作负载优化的CNCF Sandbox项目,成为LLM训练和推理场景的有力替代方案。
- Kueue:侧重资源配额和准入控制,适合多租户公平共享。
- Volcano:侧重批次公平性和Gang调度,适合分布式训练作业。
- KAI Scheduler:专为AI推理优化,考虑GPU内存拓扑和KV缓存状态。
更为关键的变革在于调度器与硬件分配的集成。Red Hat Build of Kueue 1.4已集成动态资源分配(DRA)。DRA于2025年8月在Kubernetes 1.34中达到GA,它将GPU建模为具有结构化属性(如内存带宽、NVLink拓扑)的资源,而非简单的可计数单元。这使得调度器能基于硬件特性做出更精细的放置决策。
展望:从公告到深度技术落地
大会主议程于周二开幕,CNCF执行董事Priyanka Sharma发表主题演讲,随后公布项目里程碑及最终用户案例。周三和周四的议程转向深度技术会议,重点探讨服务网格中的SPIFFE提案、安全审计缺口填补以及平台工程实践。
对于无法出席的团队,以下动向值得关注:SPIFFE-for-agents工作组即将发布的草案要求、KAI Scheduler与Kueue+DRA的真实负载基准对比、llm-d早期采用者的生产案例研究,以及Gateway API Inference Extension的合规性更新列表。这些内容将为云原生AI基础设施的下一步演进提供清晰指引。