KServe
· 阅读需 1 分钟
KServe is a standardized distributed generative and predictive AI inference platform for scalable, multi-framework deployment on Kubernetes.
KServe 是一个专为Kubernetes设计的标准化模型部署平台,支持在云原生环境中大规模、多框架地部署AI模型。
侧重标准化和多框架,是云原生的编排标准。
https://github.com/kserve/kserve

