Google Cloud强化AI容器性能,TTFT降低70%
Google Cloud在2026年Gartner容器管理魔力象限中获评领导者,并披露GKE与Cloud Run的AI负载升级。GKE预测延迟功能可将首Token时间降低70%,KV Cache自动分层使长提示吞吐提高70%,节点启动速度提升4倍;意图式自动扩缩容把资源响应时间从25秒缩至5秒。Cloud Run现支持NVIDIA Blackwell GPU,可在不到5秒内完成供给并缩容至零,GKE网络策略集群容量则翻倍至1.5万节点。
阅读原文