跳到主要内容

KServe

· 阅读需 1 分钟
GoCoding

KServe is a standardized distributed generative and predictive AI inference platform for scalable, multi-framework deployment on Kubernetes.

KServe 是一个专为Kubernetes设计的标准化模型部署平台,支持在云原生环境中大规模、多框架地部署AI模型。

侧重标准化和多框架,是云原生的编排标准。

https://github.com/kserve/kserve