容器服务Kubernetes版优化策略的相关内容

阿里云文档 2025-12-25

为PD分离推理服务配置弹性伸缩策略

在Prefill-Decode（PD）分离的LLM推理架构中，Prefill和Decode阶段的资源需求差异巨大，传统的CPU/GPU利用率指标无法有效指导弹性伸缩。本方案以Dynamo框架为例，介绍如何利用KEDA，根据NATS消息队列的积压情况，为Prefill角色配置独立的弹性伸缩策略，实现资源按需分配，优化服务成本与性能。

阿里云文档 2025-12-22

DescribePolicyGovernanceInCluster：查询集群策略治理的审计日志与违规情况-容器服务 Kubernetes 版 ACK-阿里云

ACK集群容器安全策略供了种类丰富的内置规则库，包括Compliance、Infra、K8s-general和PSP，旨在确保容器在生产环境中的安全运行。您可以调用DescribePolicyGovernanceInCluster接口，查询目标集群策略治理的详细信息，例如集群当前启用的不同等级策略计数统计、策略治理审计日志、拦截和告警情况等。

阿里云文档 2025-12-22

调用DeletePolicyInstance删除策略规则实例-容器服务 Kubernetes 版 ACK-阿里云

您可以调用DeletePolicyInstance接口，在指定集群中删除策略规则实例。

阿里云文档 2025-12-22

调用DeployPolicyInstance API部署策略规则实例-容器服务 Kubernetes 版 ACK-阿里云

您可以在ACK集群中选择安全策略类型，配置策略实例的治理动作（告警或拦截）、作用的命名空间范围等，以创建并部署一个策略实例。您可以调用DeployPolicyInstance接口，在指定集群的命名空间中部署策略规则实例。

阿里云文档 2025-06-09

使用Gateway with Inference Extension实现生成式AI推理服务灰度发布

通过Gateway with Inference Extension组件，您可以在生成式AI推理服务中实现更换、升级使用的基础模型或者对多个LoRA模型进行灰度更新，将服务中断的时间降至最低。本文介绍如何使用Gateway with Inference Extension组件对生成式AI推理服务进行渐进式灰度发布。

文章 2024-05-03 来自：开发者社区

Kubernetes 集群的持续监控与优化策略

随着云计算技术的发展和容器技术的成熟，Kubernetes 以其强大的容器编排能力、灵活的服务发现机制和丰富的扩展性，成为了现代应用部署和管理的标准。但在享受其带来的便利的同时，我们也面临着集群管理的挑战。特别是在大规模和高密度部署的场景下，如何有效进行 Kubernetes 集群的监控和性能优化，是每个运维团队必须面对的问题...

文章 2017-07-03 来自：开发者社区

Kubernetes1.7正式发布，优化了可扩展性，安全增强和网络通信策略

Kubernetes 1.7已经发布本文Ghostcloud将为大家深度分析新版本的可扩展性和安全性以及一系列新特性。 Kubernetes 1.7包括了4个稳定特性7个公测版和19个内测版有来自谷歌、CoreOS、Mirantis、Red Hat、微软等公司的370余人参与了这个新版本的发布。一般情况下内测版本中的特性不会被默认开启它们不会被官方社区认为是“生产就绪”了的产品功能但用户可以选....